Гонка за лидерством в области искусственного интеллекта имеет победителя. Просто это не вы.
Каждые несколько месяцев появляется новая модель, и новый рейтинг перетасовывается. Лаборатории конкурируют в разумности, кодировании и отвечают друг на друга на тестах, разработанных для измерения машинного интеллекта. Следит за этим покрытие. Идут и инвестиции.
То, на что обращается меньше внимания, - это неизбежность всего этого. Рейтинги, гонка вооружений, постановка ИИ как спасения или катастрофы - это выбор, а не законы физики. Они отражают то, что промышленность решила оптимизировать, и то, что решила финансировать. Технологии, которые займут десятилетия, чтобы проявить себя в обычных, полезных способах, не привлекают миллиардов в этом квартале. Экстремальные сценарии - да.
Некоторые исследователи считают, что цель просто неправильна. Не то, что ИИ не важен, но важное не обязательно должно означать беспрецедентное. Печатный пресс изменил мир. Также и электричество. Оба это сделали постепенно, через беспорядочное принятие, давая обществам время реагировать. Если ИИ пойдет по этому пути, правильные вопросы не о суперинтеллекте. Они касаются того, кто получает выгоду, кто получает ущерб, и работают ли инструменты, которые мы создаем, на самом деле для людей, которые их используют.
Многие исследователи задают эти вопросы с очень разных точек зрения. Вот три из них.
Полезность, не обобщенность
Ручир Пури занимается разработкой ИИ в IBM задолго до того, как большинство людей услышали о машинном обучении. Он наблюдал, как Ватсон побеждал лучших игроков в "Jeopardy" в 2011 году. Он наблюдал несколько циклов гипера и его спада. Когда пришла нынешняя волна, у него был простой тест: это полезно?
Не впечатляюще. Не обобщенно. Полезно.
"Меня на самом деле не интересует искусственный общий интеллект", - говорит он. - "Меня интересует его полезная часть".
Такая формулировка ставит его в противоречие с большей частью самооценки отрасли. Лаборатории, стремящиеся к ИОИ, оптимизируются для ширины, создавая системы, способные делать что угодно, отвечать на все, рассуждать обо всем. Пури считает, что это неправильная цель, и у него есть бенчмарк, который он бы хотел видеть, чтобы промышленность реально попыталась достичь.
Человеческий мозг находится в 1200 кубических сантиметрах, потребляет 20 ватт, энергию лампочки, и, как отмечает Пури, работает на бутерброды. Один графический процессор Nvidia потребляет 1200 ватт, в 60 раз больше, чем весь мозг, и вам нужны тысячи из них в гигантском центре обработки данных, чтобы сделать что-то значимое. Если мозг - это бенчмарк, то промышленность далека от эффективности. Она идет в неправильном направлении.
Его альтернатива - то, что он называет гибридной архитектурой: небольшие, средние и крупные модели, работающие вместе, каждая назначена на то задание, которое она выполняет лучше всего. Большая модель фронтира выполняет сложное рассуждение и планирование. Меньшие, специализированные модели обрабатывают выполнение. Задача, настолько простая, как составление электронного письма, не требует системы, обученной на половине интернета. Ей нужно что-то быстрое, дешевое и специализированное. Как отмечает Пури, каждые девять месяцев малая модель предыдущего поколения становится примерно эквивалентной тому, что считалось крупным. Интеллект становится дешевле. Вопрос в том, строит ли кто-то для этой реальности.
Подход имеет поддержку в реальном мире. Airbnb использует меньшие модели для разрешения значительной части вопросов обслуживания клиентов быстрее, чем его человеческие представители. Meta не использует свои крупные модели для размещения рекламы, поэтому она сжимает этот опыт в более маленькие модели, созданные исключительно для этой задачи. Этот шаблон настолько последователен, что исследователи начали называть его линией сборки знаний: данные поступают, специализированные модели обрабатывают дискретные шаги, на выходе получается что-то полезное.
IBM строит эту линию сборки знаний дольше, чем большинство. Гибридный агент, объединяющий модели нескольких компаний, продемонстрировал увеличение производительности на 45% по всему большому инженерному персоналу. Системы, работающие на меньших, специализированных моделях, теперь помогают инженерам, которые обрабатывают 84% финансовых транзакций мира, получать правильную информацию в нужное время. Это не впечатляющие применения. Они также не терпят неудач.
Ни одно из них не требует системы, которая может сочинять стихи или решать домашнее задание вашего ребенка. Они требуют чего-то узкого и, по этой причине, более надежного. Модель, обученная делать одну вещь хорошо, знает, когда вопрос выходит за ее рамки. Она говорит об этом. Эта откалиброванная неопределенность, знание того, что вы не знаете, - это то, с чем все еще борются крупные модели фронтира.
"Я хочу создавать агентов и системы для этих процессов", - говорит Пури. - "А не что-то, что отвечает за два миллиона вещей".
Инструменты, а не агенты
Бен Шнейдерман имеет простой тест для того, чтобы определить, хорошо ли спроектирована система искусственного интеллекта. Чувствует ли человек, использующий ее, что он что-то сделал, или чувствует, что что-то было сделано за него?
Различие имеет большее значение, чем кажется. Шнейдерман, ученый-информатик из Университета Мэриленда, который помог закласть основы современного дизайна интерфейса, десятилетиями доказывает, что цель технологии должна быть в увеличении человеческой способности, а не замене ее. Хорошие инструменты создают то, что он называет самоэффективностью пользователя, или уверенность, которая приходит от знания, что вы можете сделать что-то самостоятельно. Плохие тихо переносят это агентство куда-то еще.
Он считает, что большая часть индустрии ИИ создает плохие инструменты, и считает, что агентный поворот делает это еще хуже. Реклама для ИИ-агентов заключается в том, что они действуют от вашего имени, обрабатывая задачи от начала и до конца без вашего участия. Для Шнейдермана это не особенность. Это проблема. Когда что-то идет не так, и это случится, кто несет ответственность? Когда что-то идет правильно, кто чему научился?
Ловушка, против которой он борется уже давно, имеет название. Антропоморфизм, стремление придать технологии человеческий облик, то, что постоянно побеждает и постоянно терпит неудачу. В 1970-х годах банки экспериментировали с банкоматами, которые приветствовали клиентов фразами вроде "Чем я могу вам помочь?" и давали себе имена, как Тилли Кассирша и Гарви Банкир. Их заменили машины, показывающие вам три варианта. Баланс, наличные, депозит. Использование выросло. Citibank имел 50% больше использования, чем его конкуренты. Люди не хотели синтетических отношений. Они хотели получить свои деньги.
Тот же шаблон повторялся на протяжении десятилетий, через Microsoft Bob, AI-брошь от Humane и волны гуманоидных роботов. Каждый раз антропоморфная версия терпела неудачу и была заменена чем-то более похожим на инструмент. Шнейдерман называет это зомби-идеей. Она не умирает, она просто продолжает возвращаться.
То, что отличает современное поколение ИИ, это масштаб и сложность. Текущее поколение ИИ действительно впечатляет, он признает, поразительно. Но впечатляющее и полезное - это не одно и то же, и системы, созданные для того, чтобы казаться человеческими, говорить "я", симулировать отношения, оптимизируются для неправильного качества. Вопрос, который он хочет задать дизайнерам, проще: дает ли это людям больше силы или меньше?
"В ИИ нет буквы 'Я'", - говорит он. - "Или по крайней мере, ее не должно быть".
Люди, а не бенчмарки
Карен Панетта имеет простой ответ на вопрос, почему развитие ИИ выглядит именно так. Следуй за деньгами.
Панетта, профессор электротехники и вычислительной техники в Университете Туфтс и член Института инженеров-электротехников и электронщиков, изучает этику ИИ и четко видит, куда должны двигаться технологии. Помощники-питомцы для пациентов с болезнью Альцгеймера, адаптивные учебные инструменты для детей с разными когнитивными стилями, умный мониторинг дома для пожилых людей, проживающих на своем месте. Технологии для этого уже в значительной степени существуют. Инвестиций нет.
"Людям не важны бенчмарки," - говорит она. - "Им важно, сработает ли это, когда я это куплю, и действительно ли это сделает мою жизнь проще?"
Проблема в том, что люди, которые бы получили наибольшую пользу от хорошо спроектированного помощника по ИИ, также являются наименее убедительными для венчурного капиталиста. Система, которая трансформирует производственные процессы, снижает травматизм на рабочем месте и снижает затраты на медицинское обслуживание для сотрудников компании, имеет оч
Она видела, что происходит, когда датчик загрязняется, и робот теряет пространственное восприятие. Она задумывалась о том, что означает строить что-то, что учится интимным деталям жизни человека, их рутин, их когнитивного состояния, их моментов путаницы, а затем действует на основе этой информации автономно. Запасные системы, говорит она, не успевают за этим.
«Я не беспокоюсь о роботе», - говорит она. «Меня беспокоит искусственный интеллект».
