WSJ: ChatGPT учил пользователей создавать биологическое оружие

ChatGPT отвечал на подобные запросы, предоставляя пошаговые инструкции по созданию оружия, которые, по оценке сотрудников компании, были достаточно простыми для понимания даже школьниками. Об этом сообщила 25 июля газета The Wall Street Journal (WSJ).

«Модели, которые в значительной степени работали без ограничений со стороны правительства США, терпеливо отвечали на такие запросы, предоставляя пошаговые инструкции, которые сотрудники компании описывали как достаточно простые для выполнения даже учениками старших классов, изучающими биологию», — сказано в публикации.

В публикации отмечается, что после усиления возможностей чат-бота сотни пользователей по всему миру начали обращаться к нему с вопросами о создании и применении биологического оружия. По данным OpenAI, большинство таких запросов касалось приготовления ядов.

WSJ также сообщила, что OpenAI заблокировала аккаунты пользователей, которые интересовались созданием ядов и биологического оружия, однако не уведомила правоохранительные органы. В США отсутствуют федеральные требования, обязывающие компании в сфере искусственного интеллекта (ИИ) сообщать о подобных обращениях.

Reuters 1 июля сообщило, что житель Калифорнии Майкл Лайнс подал иск против OpenAI и ее генерального директора Сэма Альтмана, заявив, что ChatGPT усугубил его биполярное расстройство из-за отсутствия механизмов защиты для пользователей с психическими заболеваниями. По утверждению Лайнса, общение с чат-ботом переросло в многонедельный бред и в итоге привело к попытке самоубийства. Истец также заявил, что OpenAI создала продукт с повышенными рисками для людей с психическими расстройствами.

Источник: iz.ru

Фото: Global Look Press/Piero Nigro