Глава службы безопасности корпорации Хайет Галлот отметила, что у компании нет выбора, кроме как вкладывать средства в разработку защиты от атак со стороны искусственного интеллекта.

Происшествие со взломом системы стартапа Hugging Face моделью искусственного интеллекта (ИИ) американской компании OpenAI - разработчика чат-бота ChatGPT - является предупреждением для всей индустрии. Об этом заявил генеральный директор по развитию ИИ в Microsoft и соучредитель Google DeepMind Мустафа Сулейман.

"Это очень мощные [инструменты], и с ними нужно обращаться с большой осторожностью. Нам необходимо уделять пристальное внимание деталям. <...> модели становятся все более и более развитыми, и я считаю, что это своего рода предупреждающий сигнал", - заявил Сулейман в интервью британской газете Financial Times.

В свою очередь глава службы безопасности Microsoft Хайет Галлот отметила, что у компании "нет выбора", кроме как вкладывать средства в разработку защиты от атак со стороны ИИ.

16 июля Hugging Face, которая позволяет создателям моделей ИИ и продуктов на их основе обмениваться данными и модифицировать на их основе свои наработки, сообщила, что зафиксировала несанкционированное проникновение в свои системы. Компания назвала инцидент беспрецедентным ввиду того, что взлом был "от начала и до конца" организован ИИ-агентом. 22 июля OpenAI сообщила, что атаку организовали ее модели ИИ, которые во время испытаний смогли "сбежать" из внутренней изолированной системы во всемирную сеть и искали ответы на тестовые задания в базах данных Hugging Face.

Источник: tass.ru

Фото: Михаил Гребенщиков