Гонка за лидерство в области искусственного интеллекта имеет победителя. Просто это не вы.
Каждые несколько месяцев появляется новая модель, и новый рейтинг перетасовывается. Лаборатории соревнуются в том, чтобы переиграть, создать лучший код и дать лучшие ответы на тесты, разработанные для измерения машинного интеллекта. Следует охват. Следует финансирование.
То, чему уделяется меньше внимания, - это является ли все это неизбежным. Рейтинги, гонка вооружений, представление искусственного интеллекта как спасения или катастрофы - это выбор, а не законы физики. Они отражают то, что промышленность решила оптимизировать, и то, на что решила выделить средства. Технологии, которые займут десятилетия, чтобы проявить себя в обычных, полезных способах, не принесут миллиардов в этом квартале. Экстремальные сценарии делают это.
Некоторые исследователи считают, что поставленная цель просто неверна. Не то, что искусственный интеллект не важен, но то, что важность не обязательно означает непреодолимость. Печатный пресс изменил мир. Также и электричество. Оба сделали это постепенно, через беспорядочное принятие, давая обществам время на реакцию. Если искусственный интеллект пойдет по этому пути, правильные вопросы не о сверхинтеллекте. Они о том, кому это выгодно, кто пострадает, и действительно ли инструменты, которые мы создаем, работают для людей, использующих их.
Многие исследователи задают себе эти вопросы из совершенно разных направлений. Вот три из них.
Полезные, не общие
Ручир Пури создает искусственный интеллект в IBM задолго до того, как большинство людей услышали о машинном обучении. Он наблюдал, как в 2011 году Ватсон победил лучших игроков в "Jeopardy". Он видел несколько волн гипа, которые приходили и уходили с тех пор. Когда наступила текущая волна, у него был простой тест: она полезна?
Не впечатляющая. Не общая. Полезная.
\"Мне не очень важен искусственный общий интеллект,\" - говорит он. \"Мне важна часть, которая полезна\".
Эта постановка его поставила в противоречие с большей частью самооценки промышленности. Лаборатории, стремящиеся к общему искусственному интеллекту, оптимизируются для ширины, создавая системы, которые могут делать что угодно, отвечать на все, рассуждать обо всем. Пури считает, что это неправильная цель, и у него есть бенчмарк, который он хотел бы видеть, чтобы промышленность действительно попыталась достичь.
Человеческий мозг находится в 1200 кубических сантиметрах, потребляет 20 ватт, энергию лампочки, и, как отмечает Пури, работает на бутербродах. Одно графическое ядро Nvidia потребляет 1200 ватт, в 60 раз больше, чем весь мозг, и вам нужно тысячи таких ядер в огромном центре обработки данных, чтобы сделать что-то значимое. Если мозг - это бенчмарк, то промышленность далека от эффективности. Она движется в неправильном направлении.
Его альтернатива - то, что он называет гибридной архитектурой: маленькие, средние и большие модели, работающие вместе, каждая назначена на задачу, которую она лучше всего выполняет. Большая фронтальная модель выполняет сложное мышление и планирование. Меньшие, специально созданные модели обрабатывают исполнение. Задача, такая простая, как написание электронного письма, не требует системы, обученной на половине интернета. Нужно что-то быстрое, дешевое и сосредоточенное. Как отмечает Пури, каждые девять месяцев небольшая модель предыдущего поколения становится приблизительно эквивалентной тому, что ранее считалось большим. Интеллект становится дешевле. Вопрос в том, строит ли кто-то для этой реальности.
Подход имеет поддержку в реальном мире. Airbnb использует более мелкие модели для решения значительной части проблем обслуживания клиентов быстрее, чем это могут сделать его человеческие представители. Meta не использует свои самые большие модели для размещения рекламы, поэтому он упрощает этот навык в более мелкие, созданные исключительно для этой задачи. Паттерн достаточно последователен, чтобы исследователи начали называть его линией сборки знаний: данные поступают, специализированные модели обрабатывают отдельные шаги, на выходе получается что-то полезное.
IBM строит эту линию сборки дольше, чем большинство. Гибридный агент, объединяющий модели нескольких компаний, продемонстрировал увеличение производительности на 45% по всему большому инженерному персоналу. Системы, работающие на более мелких, специально созданных моделях, теперь помогают инженерам, обрабатывающим 84% всех финансовых транзакций мира, получать правильную информацию в нужное время. Это не яркие приложения. Но они не терпят неудач.
Ни одно из них не требует системы, способной писать стихи или решать домашнее задание вашего ребенка. Они требуют чего-то более узкого и, по этой причине, более надежного. Модель, обученная делать что-то хорошо, знает, когда вопрос выходит за ее рамки. Она сообщает об этом. Эта откалиброванная неопределенность, знание того, что вы чего-то не знаете, - это то, с чем большие фронтальные модели все еще борются.
\"Я хочу создавать агентов и системы для этих процессов,\" - говорит Пури. \"Не что-то, что отвечает на два миллиона вопросов\".
Инструменты, а не агенты
Бен Шнайдерман имеет простой тест для того, чтобы определить, хорошо ли спроектирована система искусственного интеллекта. Чувствует ли человек, использующий ее, что он сделал что-то, или кажется, что что-то было сделано за него?
Отличие имеет большое значение. Шнайдерман, компьютерный ученый из Университета Мэриленда, который помог заложить основы современного дизайна интерфейсов, провел десятилетия, утверждая, что цель технологии должна заключаться в усилении человеческих способностей, а не их замене. Хорошие инструменты создают то, что он называет самоэффективностью пользователя, или уверенность, которая приходит от знания, что вы можете сделать что-то самостоятельно. Плохие тихо переносят это представительство куда-то еще.
Он считает, что большая часть индустрии искусственного интеллекта создает плохие инструменты, и считает, что поворот к агентам делает это еще хуже. Продажная речь для агентов искусственного интеллекта заключается в том, что они действуют от вашего имени, обрабатывая задачи от начала до конца без вашего участия. Для Шнайдермана это не особенность. Это проблема. Когда что-то идет не так, и это произойдет, кто несет ответственность? Когда что-то идет правильно, кто что-то узнал?
Ловушка, с которой он борется уже долгое время, имеет название. Антропоморфизм, стремление придать технологии человеческие черты, то, что все время выигрывает и все время терпит неудачу. В 1970-е годы банки экспериментировали с банкоматами, которые приветствовали клиентов фразой \"Чем могу вам помочь?\" и давали себе имена, например Тилли Кассир и Гарви Банкир. Они были заменены машинами, которые показывали вам три варианта. Баланс, наличные, депозит. Использование выросло. У Citibank было на 50% больше использование, чем у его конкурентов. Люди не хотели синтетических отношений. Они хотели получить свои деньги.
Тот же паттерн повторялся на протяжении десятилетий, через Microsoft Bob, AI-булавку от Humane и волны гуманоидных роботов. Каждый раз антропоморфная версия терпела неудачу и была заменена чем-то более похожим на инструмент. Шнайдерман называет это зомби-идеей. Она не умирает, она просто продолжает возвращаться.
То, что отличает современную эпоху, это масштаб и сложность. Текущее поколение искусственного интеллекта действительно впечатляет, он признает, поражающе. Но впечатляющий и полезный - не одно и то же, и системы, созданные для того, чтобы казаться человеческими, говорить \"я\", имитировать отношения, оптимизируются для неправильного качества. Вопрос, который он хочет задать дизайнерам, проще: дает ли это людям больше возможностей или меньше?
\"В искусственном интеллекте нет буквы Я,\" - говорит он. \"Или, по крайней мере, ее быть не должно\".
Люди, а не бенчмарки
Карен Панетта имеет простой ответ на вопрос, почему развитие искусственного интеллекта выглядит так, как оно выглядит. Следуй за деньгами.
Панетта, профессор электротехники и компьютерной инженерии в Университете Тафта и член Института инженеров по электротехнике и электронике, изучает этику искусственного интеллекта и имеет четкое представление о том, куда должна идти технология. Помощники для пациентов с болезнью Альцгеймера, адаптивные учебные инструменты для детей с разными когнитивными стилями, умный домашний мониторинг для пожилых людей, которые стареют на своем месте. Технологии для этого уже в значительной степени существуют. Но инвестиций нет.
\"Люди не заботятся о бенчмарках,\" - говорит она. \"Им важно, работает ли это, когда они покупают это, и действительно ли это сделает их жизнь проще?\"
Проблема в том, что люди, которые бы
Она видела, что происходит, когда датчик загрязняется, и робот теряет пространственное восприятие. Она задумывалась над тем, что значит строить что-то, что узнает интимные детали жизни человека, их рутины, их когнитивное состояние, их моменты путаницы, а затем действует на основе этой информации автономно. Она говорит, что обеспечение безопасности не успевает за этим.
"Я не беспокоюсь о роботе", - говорит она. "Я беспокоюсь об искусственном интеллекте".
