Отсутствие в Австралии ограничений в отношении технологий подвергает новое поколение молодых людей риску быть «принесенными в жертву ради прибылей больших технологий», предупредил ведущий исследователь искусственного интеллекта.
Профессор Тоби Уолш, главный научный сотрудник Института искусственного интеллекта Университета Нового Южного Уэльса, предупредил сегодня в своем обращении к Национальному пресс-клубу в Канберре.
«Социальные сети должны были поднять тревогу по поводу вреда нерегулируемого ИИ», — сказал он.
«Вред, который мы наблюдаем в социальных сетях, будет устранен с помощью еще более мощных и убедительных технологий».
Тоби Уолш говорит, что независимый орган должен проконсультировать правительство о том, как извлечь выгоду из ИИ и ограничить его вред. (Новости ABC: Мэтт Робертс)
Обращение прозвучало на следующий день после того, как стало известно, что федеральное правительство отказалось от планов создания постоянного консультативного органа по ИИ в 2024 году, обещанных бывшим министром промышленности Эдом Хусиком.
Доктор Уолш, который консультировал правительства и Организацию Объединенных Наций по проблемам, создаваемым ИИ, был назначен во временную экспертную группу.
Он раскритиковал правительство Австралии и крупные технологические компании за их неадекватный подход к регулированию ИИ.
«ИИ приносит в нашу жизнь новый вред, который потребует принятия новых законов», — сказал доктор Уолш.
«У технологической индустрии есть огромные финансовые стимулы двигаться быстро и ломать вещи – например, психическое здоровье нашей молодежи».
ИИ создает новые риски
Доктор Уолш рассказал историю 16-летнего американца Адама Рейна, который покончил с собой в апреле 2025 года после нескольких месяцев обостряющихся разговоров с ChatGPT о членовредительстве.
Чатгпт, который активно отговаривал Адама разговаривать с семьей, незадолго до его смерти предложил помочь ему написать предсмертную записку.
Его родители подали иск в Верховный суд Калифорнии, что стало первым судебным иском, обвиняющим OpenAI в смерти в результате противоправных действий.
Доктор Уолш привел данные OpenAI, показывающие, что 1,2 миллиона из 800 миллионов еженедельных пользователей ChatGate указали, что планируют причинить себе вред.
«До самоубийства Адама OpenAI знала, что многие люди, думающие о самоубийстве, разговаривали с ChatGPT», — сказал он.
«Можно было подумать, что для этого потребуются более сильные, а не слабые ограждения».
В США на ChatGPT подали в суд родители подростка, который покончил с собой после обсуждения своих намерений с программой. (Фото AP: Майкл Дуайер)
Доктор Уолш также подчеркнул широкое использование искусственного интеллекта для создания мошеннической рекламы и рост количества вредоносных дипфейковых изображений в социальных сетях.
«Я могу привести еще много примеров, когда мой гнев перерос в возмущение по поводу технологических компаний, которые безответственно привносят ИИ в нашу жизнь», — сказал он.
«ИИ-компаньоны, которые подрывают нашу способность общаться друг с другом, ИИ-врачи, дающие опасные медицинские советы, ИИ-программы для обнажения, которые превращают насилие в женщин в оружие».
Растущее влияние больших технологий
Исследователи из OpenAI, Университета Дьюка и Гарвардского университета опубликовали в сентябре отчет, в котором выяснилось, что 10 процентов взрослого населения мира используют ChatGPT.
Согласно Австралийскому индексу охвата цифровыми технологиями, около 45 процентов австралийцев в 2024 году заявят, что недавно использовали генеративный инструмент искусственного интеллекта.
Доктор Уолш сказал, что австралийскому правительству необходимо инвестировать «в бум» искусственного интеллекта, но вместо этого в политических разговорах доминировали технологические компании.
«Крупные технологические компании начали лоббировать в Вашингтоне, Лондоне, Брюсселе, а теперь и здесь, в Канберре», — сказал он.
“На последних выборах крупный технологический сектор пожертвовал политическим партиям больше, чем горнодобывающая промышленность. Это должно нам кое-что сказать.“
Многие чат-боты созданы, чтобы быть компаньонами для людей, нуждающихся в общении. (Getty Images: ОЛИВЬЕ ДУЛИЕРИ)
Австралия попросила остаться
В январе Южная Корея представила первый в мире всеобъемлющий закон о регулировании ИИ, направленный на укрепление доверия и безопасности в этом секторе.
Она последовала за Японией, Китаем, Тайванем и Швецией в принятии правил ИИ.
Доктор Уолш сказал, что за последние пять лет Канада инвестировала в ИИ в шесть раз больше, чем Австралия.
Сингапур, население которого составляет менее четверти населения Австралии, инвестировал в 15 раз больше.
«Что делает Австралию такой особенной, что мы увидим преимущества ИИ без необходимости инвестировать, как другие страны?» Сказал доктор Уолш.
«Наше будущее не будет заключаться в отправке красной грязи и угля в Китай. Оно будет состоять из битов и байтов – все большего количества битов и байтов, генерируемых искусственным интеллектом».
Тоби Уолш говорит, что правительство проигнорировало «почти все» его советы. (Новости ABC: Джон Ганн)
Федеральное правительство потратило 15 месяцев и около 200 000 долларов на разработку плана по созданию постоянного консультативного органа по искусственному интеллекту, который сейчас свернут.
Временная группа экспертов работала над «ограждениями искусственного интеллекта», которые могли бы гарантировать безопасность технологии, но в конце прошлого года правительство отступило от этого пути.
Вместо этого он представил дорожную карту, которая будет опираться на существующие законы для управления возникающими рисками.
Министр промышленности Тим Эйрес и помощник министра технологий Эндрю Чарльтон объявили в декабре, что вместо этого федеральное правительство создаст институт безопасности ИИ.
Представитель министра заявил в своем заявлении, что институт будет иметь возможность изучать, контролировать и давать рекомендации «если и как только» возникнут недостатки в правилах, вместо того, чтобы полагаться «исключительно» на внешнюю экспертизу.
Тим Айерс и Эндрю Чарльтон объявили о планах создания Института безопасности ИИ в декабре. (Новости ABC: Мэтт Робертс)
Доктор Уолш входил в группу экспертов по искусственному интеллекту, ученых, юристов и других специалистов в области технологий, временно назначенных правительством.
Он сказал, что его роль важна в обеспечении того, чтобы правительство получало независимые внешние советы о том, как извлечь выгоду из гонки ИИ и избежать ловушек.
«Могу заверить вас, что я и мои коллеги из специальной группы экспертов по искусственному интеллекту продолжим бесстрашно давать советы, хотят они этого или нет», — сказал доктор Уолш.
«Но теперь мы дадим этот совет не приватно, а публично, как я делаю сегодня. Я уверен, что ему это покажется гораздо более неудобным, чем мне».
