Гонка за лидерством в области искусственного интеллекта имеет победителя. И это не вы.
Каждые несколько месяцев появляется новая модель, и новый рейтинг переформируется. Лаборатории соревнуются в том, чтобы превзойти друг друга в тестах, разработанных для измерения машинного интеллекта. Медиа следят за этим. Идут и инвестиции.
Меньше внимания уделяется вопросу о том, является ли все это неизбежным. Рейтинги, гонка вооружений, представление ИИ либо как спасение, либо как катастрофа это выбор, а не законы физики. Это отражает то, на что промышленность решила оптимизироваться, и на что решила вкладывать средства. Технологии, которые потребуют десятилетия для того, чтобы принести пользу в повседневной жизни, не привлекают миллиардов на этот квартал. Экстремальные сценарии да.
Некоторые исследователи считают, что цель просто неверная. Не в том, что ИИ не важен, а в том, что важное не обязательно означает беспрецедентное. Печатный станок изменил мир. Также и электричество. Оба сделали это постепенно, через хаотичное принятие, давая обществам время реагировать. Если ИИ пойдет по этому пути, то правильные вопросы не о сверхразуме. Они касаются того, кто получает выгоду, кто получает ущерб, и действительно ли инструменты, которые мы строим, работают для людей, использующих их.
Многие исследователи задают эти вопросы с самых разных точек зрения. Вот три из них.
Полезно, не общее
Ручир Пури занимается разработкой ИИ в IBM задолго до того, как большинство людей услышало о машинном обучении. Он видел, как Ватсон победил лучших игроков в "Jeopardy!" в 2011 году. Он следил за несколькими волнами гипера и их отступлениями. Когда пришла текущая волна, у него был простой тест: это полезно?
Не впечатляющее. Не общее. Полезное.
"Меня не интересует искусственный общий интеллект," говорит он. "Меня интересует именно полезная часть."
Такая постановка вопроса ставит его в противоречие с большей частью самооценки промышленности. Лаборатории, стремящиеся к ИОИ, оптимизируют широту, создавая системы, способные делать что угодно, отвечать на что угодно, рассуждать о чем угодно. Пури считает, что это неправильная цель, и у него есть рейтинг, который он хотел бы видеть, чтобы промышленность действительно попыталась достичь.
Человеческий мозг занимает 1200 кубических сантиметров, потребляет 20 ватт, столько же, сколько энергии у лампочки, и, как подчеркивает Пури, работает на бутерброды. Одна видеокарта Nvidia потребляет 1200 ватт, в 60 раз больше, чем весь мозг, и для выполнения какой-либо значимой задачи вам нужно тысячи таких видеокарт в огромном центре обработки данных. Если мозг является эталоном, то промышленность далека от эффективности. Она движется в неправильном направлении.
Его альтернатива это то, что он называет гибридной архитектурой: маленькие, средние и большие модели, работающие вместе, каждая назначена на ту задачу, которую она лучше всего выполняет. Большая модель фронтального уровня выполняет сложное рассуждение и планирование. Меньшие, специализированные модели обрабатывают выполнение. Для задачи, такой простой, как написание электронного письма, не требуется система, обученная на половине интернета. Нужно что-то быстрое, дешевое и целевое. Как отмечает Пури, каждые девять месяцев маленькая модель предыдущего поколения становится примерно эквивалентной тому, что ранее считалось большим. Интеллект становится дешевле. Вопрос в том, строит ли кто-то что-то с учетом этой реальности.
У этого подхода есть поддержка в реальном мире. Airbnb использует меньшие модели для решения значительной части проблем обслуживания клиентов быстрее, чем его человеческие представители. Meta не использует свои самые крупные модели для показа рекламы, поэтому она сжимает этот опыт в более мелкие модели, созданные только для этой задачи. Повторяющийся шаблон настолько последователен, что исследователи начали называть его сборочной линией знаний: данные поступают, специализированные модели обрабатывают дискретные шаги, что-то полезное появляется на другом конце.
IBM строит эту сборочную линию дольше большинства. Гибридный агент, объединяющий модели нескольких компаний, показал увеличение производительности на 45% в крупном инженерном коллективе. Системы, работающие на меньших, специализированных моделях, теперь помогают инженерам, обеспечивающим обработку 84% финансовых транзакций мира, получать нужную информацию в нужное время. Это не яркие приложения. Они также не терпят неудач.
Ни одно из них не требует системы, способной писать стихи или решать домашнее задание вашего ребенка. Они требуют чего-то узкого и, по этой причине, более надежного. Модель, обученная делать одну вещь хорошо, знает, когда вопрос выходит за ее рамки. Она говорит об этом. Эта откалиброванная неопределенность, знание того, что вы не знаете, это то, с чем крупные модели фронтального уровня все еще борются.
"Я хочу строить агентов и системы для этих процессов," говорит Пури. "А не что-то, что отвечает на два миллиона вещей".
Инструменты, а не агенты
Бен Шнайдерман имеет простой тест на то, хорошо ли спроектирована система искусственного интеллекта. Чувствует ли человек, использующий ее, что он что-то сделал, или кажется, что что-то было сделано за него?
Различие имеет большое значение. Шнайдерман, компьютерный ученый из Университета Мэриленда, который помог заложить основы современного дизайна интерфейсов, десятилетиями утверждает, что цель технологии должна быть в усилении человеческой способности, а не в ее замене. Хорошие инструменты создают то, что он называет самоэффективностью пользователя, или уверенность, приходящую от знания, что вы можете сделать что-то самостоятельно. Плохие тихо переносят это агентство куда-то еще.
Он считает, что большая часть промышленности искусственного интеллекта создает плохие инструменты, и он считает, что появление агентов усугубляет ситуацию. Продажный аргумент для ИИ-агентов заключается в том, что они действуют от вашего имени, обрабатывая задачи от начала до конца без вашего участия. Для Шнайдермана это не функция. Это проблема. Когда что-то идет не так, и это случится, кто несет ответственность? Когда что-то идет правильно, кто извлекает из этого уроки?
Ловушка, против которой он борется уже долгое время, имеет название. Антропоморфизм, стремление придать технологии человеческие черты, то, что продолжает побеждать и продолжает терпеть неудачу. В 1970-е годы банки экспериментировали с банкоматами, которые приветствовали клиентов фразой "Как я могу вам помочь?" и давали себе имена вроде Тилли Банкирши и Гарви Банкира. Их заменили машины, показывающие вам три варианта. Баланс, наличные, депозит. Использование возросло. У Citibank было на 50% больше использование, чем у его конкурентов. Люди не хотели синтетических отношений. Они хотели получить свои деньги.
Тот же шаблон повторялся на протяжении десятилетий, через Microsoft Bob, AI pin от Humane и волны гуманоидных роботов. Каждый раз антропоморфная версия терпела неудачу и была заменена чем-то более похожим на инструмент. Шнайдерман называет это зомби-идеей. Она не умирает, она продолжает возвращаться.
То, что отличает современное время это масштаб и сложность. Текущее поколение ИИ действительно впечатляет, он признает это, поразительно так. Но впечатляющее и полезное не одно и то же, и системы, созданные для того, чтобы казаться человеческими, говорить "Я", имитировать отношения, оптимизируются под неправильное качество. Вопрос, который он хочет, чтобы дизайнеры задавали, проще: дает ли это людям больше власти или меньше?
"В ИИ нет буквы Я," говорит он. "Или по крайней мере, ее не должно быть."
Люди, а не рейтинги
Карен Панетта имеет простой ответ на вопрос, почему развитие ИИ выглядит так, как выглядит. Следуй за деньгами.
Панетта, профессор электротехники и компьютерной инженерии в Университете Тафтс и член IEEE, изучает этику ИИ и имеет четкое представление о том, куда должна двигаться технология. Ассистенты-помощники для пациентов с болезнью Альцгеймера, адаптивные обучающие инструменты для детей с разными когнитивными стилями, мониторинг умного дома для пожилых людей, живущих на своем месте. Технологии для этого хорошо работают, говорит она. Инвестиций не хватает.
"Люди не заботятся о рейтингах," говорит она. "Им важно, работает ли это, когда я покупаю его, и действительно ли это сделает мою жизнь проще?"
Проблема в том, что люди, которые больше всего выиграют от хорошо спроектированного ассистента ИИ, также являются наименее убедительными для венчурного капиталиста. Система, которая трансформирует производственные процессы, снижает травматизм на рабочем месте и сокращает затраты на здравоохранение для сотрудников компании, имеет очевидный возврат. Робот-спутник, который
Она видела, что происходит, когда датчик загрязняется, и робот теряет пространственное восприятие. Она размышляла о том, что означает строить что-то, что учится интимным деталям жизни человека, их ритуалам, их когнитивному состоянию, их моментам путаницы, а затем действует на основе этой информации автономно. Средства защиты, говорит она, не удерживаются.
«Я не беспокоюсь о роботе», - говорит она. «Меня беспокоит искусственный интеллект».
