Томас Вульф, сооснователь и главный научный сотрудник Hugging Face, подверг сомнению убеждение в том, что текущие системы искусственного интеллекта приведут к значительным научным прорывам.
Вульф рассказал журналу Fortune, что современные большие языковые модели, или LLM, отлично справляются с предоставлением ответов, но терпят неудачу, когда речь идет о формулировании оригинальных вопросов.
В науке задавать вопрос - это сложная часть, - сказал он. Когда вопрос задан, ответ часто является довольно очевидным, но самое трудное - это действительно задать вопрос, и модели очень плохо справляются с постановкой великолепных вопросов.
Не пропустите:
Прорывный крышный зарядный устройство для электромобилей GoSun уже имеет зарезервированных более 2 000 единиц станьте инвестором этого бренда чистой энергии на $41,3 млн сегодня.
Инвестируйте рано в прорывную технологию CancerVax, нацеленную на изменение рынка в $231 млрд. Поддержите смелый новый подход к лечению рака с высоким потенциалом роста.
Ответ на утверждения Anthropic о ускорении искусственного интеллекта
Комментарии Вульфа были ответом на блог-пост генерального директора Anthropic Дарио Амодеи, который утверждает, что искусственный интеллект может сжать столетия научных прорывов всего за несколько лет.
Вульф сказал, что сначала он нашел пост убедительным, но стал скептически настроен после повторного прочтения. Там говорилось, что ИИ собирается решить рак, решить проблемы психического здоровья - даже принести мир в мир. Но потом я прочитал это еще раз и понял, что в этом звучит что-то очень неправильное, и я в это не верю, - сказал он журналу Fortune.
Находящийся в Сан-Франциско Anthropic поддерживается гигантами технологической отрасли, включая Amazon.com Inc. (NASDAQ: AMZN) и Alphabet Inc. (NASDAQ: GOOG, GOOGL)), и также известен своей семьей моделей ИИ Claude.
Yes-Men о критике на серверах
Для Вульфа основная проблема заключается в том, как обучаются LLM. В другом блог-посте Вульф утверждает, что современные системы ИИ построены для предсказания вероятных результатов, действуют как 'yes-men on servers', способны имитировать человеческие ответы, но не способны оспаривать предположения или генерировать оригинальные идеи.
Для того чтобы создать Эйнштейна в центре обработки данных, нам необходима не просто система, которая знает все ответы, а такая, которая может задавать вопросы, о которых никто другой не думал или не осмелился задать, - написал Вульф.
Он указал на то, что настоящий научный прогресс часто происходит за счет парадигмальных сдвигов, подобно тому, как Коперник предложил гелиоцентризм или изобретению генного редактирования на основе CRISPR, а не за счет ответов на существующие вопросы.
Тенденции: Этот стартап, поддержанный Джеффом Безосом, позволит вам стать арендодателем всего за 10 минут, с минимальными инвестициями от $100.
Основное внимание на ответах, а не на запросах
Вульф также поставил под сомнение, как измеряется производительность ИИ сегодня. В своем блог-посте он указал на бенчмарки, такие как Last Exam человечества или Frontier Math, которые тестируют, насколько хорошо могут отвечать ИИ модели на сложные, но четко определенные вопросы.
«Это именно те виды экзаменов, в которых я преуспевал», - написал Вульф, ссылаясь на свое образовательное прошлое. «Но настоящие научные прорывы происходят не от ответов на известные вопросы, а от постановки сложных новых и от вопросов о предыдущих идеях».
Он аргументировал, что ИИ должен продемонстрировать способность оспаривать свои обучающие данные, принимать контрфактические подходы и выявлять новые направления исследований на основе неполной информации.
Искусственный интеллект уровня Эйнштейна остается далеким
Используя настольную игру Го в качестве аналогии, Вульф сказал, что знаменитая победа DeepMind's AlphaGo над чемпионами мира в 2016 году вызвала шум, но не была революционной.
«Ход 37, хотя и впечатляющий, по сути, все еще является ответом студента с отличной оценкой на вопрос, поставленный правилами игры Го», - написал он в своем блоге. «Прорыв уровня Эйнштейна в Го заключается в изобретении самого правила игры Го».
Роль Hugging Face в развитии ИИ
Hugging Face - это важная платформа с открытым исходным кодом в обществе ИИ, известная своим коллективным развитием моделей машинного обучения с открытым исходным кодом и инструментов. Компанию поддерживают инвесторы, включая Sequoia Capital и Lux Capital, и она играет ведущую роль в разработке прозрачных и доступных систем ИИ.
Вульф пришел к выводу, что хотя текущие модели полезны в качестве ассистентов, истинный научный прогресс требует другого вида интеллекта, способного формулировать деструктивные вопросы, а не повторять то, что уже известно.
Смотрите далее:
$100k в активах? Максимизируйте свою пенсию и снизьте налоги: Запланируйте бесплатный звонок с финансовым консультантом, чтобы начать свой финансовый путь - без затрат, без обязательств.
Уоррен Баффетт однажды сказал: "Если вы не найдете способ зарабатывать деньги, пока вы спите, то будете работать до смерти". Вот как вы можете зарабатывать пассивный доход, имея всего $100.
UNLOCKED: 5 НОВЫХ СДЕЛОК КАЖДУЮ НЕДЕЛЮ. Нажмите сейчас, чтобы получать лучшие торговые идеи ежедневно, а также неограниченный доступ к передовым инструментам и стратегиям для получения преимущества на рынках.
Получите последний анализ акций от Benzinga?
AMAZON.COM (AMZN): Бесплатный отчет об анализе акций
ALPHABET (GOOG): Бесплатный отчет об анализе акций
Эта статья Сооснователь Hugging Face вызывает оптимистов по поводу искусственного интеллекта: 'Модели не могут задавать оригинальные научные вопросы' первоначально появилась на Benzinga.com
2025 Benzinga.com. Benzinga не предоставляет инвестиционных советов. Все права защищены.
