Подозреваемый в стрельбе в школе Тамблер-Ридж описывает сценарии насилия в ChatGPT

Подозреваемый в массовом расстреле в Тамблер-Ридж, Британская Колумбия, Джесси Ван Рутселаар поднял тревогу среди сотрудников OpenAI за несколько месяцев до того, как произошла стрельба. В июне прошлого года Джесси разговаривал с ChatGPT, описывая насилие с применением огнестрельного оружия, которое вызвало срабатывание автоматической системы проверки чат-бота. Несколько сотрудников выразили обеспокоенность тем, что его сообщения могут стать предвестником насилия в реальном мире, и призвали руководителей компании связаться с властями, но в конечном итоге отказались.

Представитель OpenAI Кайла Вуд рассказала The Verge, что, хотя компания рассматривала возможность передачи аккаунта правоохранительным органам, в конечном итоге она решила, что он не представляет «непосредственного и вероятного риска» причинения вреда другим людям. Вуд сказал, что просмотр журналов не показал наличия активных или неизбежных планов насилия. Компания заблокировала учетную запись Rootseller, но, похоже, не предприняла никаких дальнейших мер предосторожности.

Вуд сказал: «Наши мысли со всеми, кого коснулась трагедия в Тамблер-Ридж. Мы активно обратились к Королевской канадской конной полиции с информацией об этом человеке и использовании им ChatGPT, и мы продолжим поддерживать их расследование».

10 февраля девять человек, включая Рутселаара, были убиты и 27 ранены в результате самого смертоносного массового расстрела в Канаде с 2020 года. Рутселаар был найден мертвым от огнестрельного ранения, которое, по всей видимости, он нанес себе сам, на месте средней школы Тамблер-Ридж, где произошло большинство убийств.

Оглядываясь назад, решение не предупреждать правоохранительные органы может показаться неправильным, но Вуд сказал, что цель OpenAI — сбалансировать конфиденциальность и безопасность и избежать непреднамеренного вреда за счет чрезмерно широкого использования обращений правоохранительных органов.

Обновлено 21 февраля: Добавлено заявление от OpenAI.