Иногда может показаться, что весь мир технологий зациклен на последнем обновлении графика.
Рассматриваемый график был создан некоммерческим исследовательским институтом METR и измеряет различные возможности разработки программного обеспечения. Модель искусственного интеллекта.
Вот уже несколько месяцев этот график вызывает волнение и беспокойство у всех, кто наблюдает за искусственным интеллектом, поскольку он демонстрирует удивительную экспоненциальную тенденцию – то есть удвоение роста.
Фото: МЕТР
По данным METR, или Model Evaluation and Threat Research, эффективность ИИ удваивается с шокирующей скоростью примерно каждые семь месяцев.
Последние результаты превратили лихорадку в панику, поскольку показали, что тенденция не только продолжается, но и ускоряется.
METR тестирует ИИ, оценивая его способность выполнять длительные программные задачи, выполняемые человеком.
Последняя проанализированная модель была: Cloud Opus от Anthropic 4.6Побил все предыдущие рекорды.
«Демонический прыжок»
Многие люди в сфере технологий сравнивают ситуацию с пандемией Covid, поскольку удвоение странным образом превращается из, казалось бы, небольшого прироста в чудовищные скачки.
«Ничего, ничего, ничего, все», — так описал мне ситуацию британский технологический предприниматель и исследователь искусственного интеллекта несколько месяцев назад, в то время, когда график METR уже выглядел довольно волатильным (хотя, оглядываясь назад, кажется, что мы едва приближались к дну).
Достигнутый с тех пор прогресс заставляет многих людей чувствовать, что мы быстро движемся ко «всему».
После публикации диаграммы исследователь METR отправил своим старым друзьям по колледжу записку, которую они разместили в социальных сетях, в которой говорилось: «Теперь я чувствую себя очень уверенно, что это будет совершенно безумие и хаос, более хаотичный, чем все, что мир испытал в нашей жизни».
В настоящее время это также не является чем-то необычным в сфере технологий. Руководители крупных компаний, занимающихся искусственным интеллектом, постоянно делают подобные заявления.
«Воздействие промышленной революции десятикратно»
Даже Демис Хассабис, наиболее сдержанный из лидеров ИИ, регулярно говорит, что влияние ИИ будет в 10 раз больше в одной десятой части промышленной революции.
Широко распространенный информационный бюллетень, реагирующий на диаграмму METR, выразился проще: «Когда я начну пинать вас и кричать, что это… происходит».
Но что именно? При ближайшем рассмотрении это становится трудно сказать.
Для начала давайте посмотрим, что на самом деле измеряет диаграмма METR.
Читать далее:
Если у вас есть пароль, сгенерированный ИИ, вам следует его изменить.
«Человечество созрело»: у ИИ теперь есть собственная соцсеть
Детали являются техническими, но, вообще говоря, он измеряет продолжительность задачи, которую ИИ может выполнить в 50% случаев — то есть они терпят неудачу так же часто, как и добиваются успеха.
Несколько в стороне от полной автоматизации
Бизнес, который передал свою деятельность ИИ, способному выполнить задачу вдвое быстрее, не просуществует долго.
Даже 80% успеха – который также измеряет METR – будет недостаточным для полной автоматизации в корпоративной среде.
Кроме того, есть точное расположение точек на графике, в котором, по признанию, даже исследователи METR не уверены.
«Мы все больше нервничаем по поводу измерений, которые мы публикуем», — сказал Джоэл Бейкер, член технического персонала METR, имея в виду чрезвычайно широкий диапазон возможных значений — доверительных интервалов — в оценке группы Cloud Opus 4.6.
«Мы не хотим за этим прятаться. Я думаю, в этом и есть настоящая неопределенность».
Основная причина неопределенности заключается в том, что таким организациям, как METR, становится все труднее находить задачи, которые достаточно сложны для правильного тестирования ИИ.
Это говорит само за себя.
Тем не менее, поскольку рынок движется вперед на основе небольших изменений в оценках ИИ, важно помнить, что некоторые небольшие изменения в тестах METR могли существенно изменить результаты.
Скорость прогресса ИИ, возможно, ускоряется, но с такой же легкостью она может и замедлиться.
Бейкер, который сказал, что перестал платить пенсии после того, как понял тенденцию развития ИИ, сказал Sky News, что, по его мнению, ИИ еще не способен к самосовершенствованию, что приводит к научно-фантастическим опасениям по поводу взрыва возможностей ИИ.
Тем не менее, он добавил, что «вероятно, сегодня инструменты ИИ значительно ускоряют темпы, в которых профессионалы в области ИИ могут добиться прогресса в создании все более и более лучшего ИИ», что важно само по себе.
«Я хочу отметить, что ситуация серьезная, что она развивается быстро, не замедляется, а ускоряется», — сказал Бейкер Sky News.
«Это может быть связано с исключительно позитивными возможностями… и, с другой стороны, могут происходить и необычные, опасные вещи».
Как ИИ влияет на занятость?
В настоящее время показатели занятости в Великобритании и США практически не свидетельствуют о каком-либо влиянии ИИ.
На платформе поиска работы Indeed растет количество объявлений о вакансиях в области разработки программного обеспечения.
Бейкер сказал, что, по его мнению, будущее есть у программистов, по крайней мере, на какое-то время.
“Знаете, в лабораториях работают все эти профессионалы в области искусственного интеллекта, которые выполняют настоящую работу. Я думаю, что они не собираются заниматься тем же самым в следующем году или, может быть, даже в течение нескольких лет”.
Но он предупредил: «Экономические данные относятся к тому, что произошло несколько месяцев назад, а не к тому, что происходит сегодня.
«И я думаю, что некоторый выдающийся прогресс, который мы наблюдаем, особенно в разработке программного обеспечения, а также в других областях, поскольку ИИ становится более способным, произошел только за последние несколько месяцев».
Темпы развития искусственного интеллекта сейчас настолько высоки, что их становится чрезвычайно трудно измерить.
Сам этот факт чрезвычайно важен.
