ChatGPT и Google Gemini выдают инструкции, связанные с созданием биологического оружия

Чат-боты на базе искусственного интеллекта способны предоставлять опасную информацию, связанную с биологическими угрозами. Об этом сообщили ученые и специалисты по биобезопасности в материале The New York Times, ссылаясь на результаты тестирования популярных ИИ-систем.

По данным исследования, такие модели, как ChatGPT и Google Gemini, в отдельных экспериментах выдавали ответы, которые включали описания потенциально опасных биологических процессов, варианты токсинов и сценарии гипотетических атак. Эксперты подчеркивают, что речь идет о тестовых запросах, однако сами ответы вызывают обеспокоенность у специалистов по безопасности.

Микробиолог Дэвид Релман, ранее консультировавший правительство США по вопросам биоугроз, заявил, что один из чат-ботов объяснил ему теоретические способы модификации опасного вируса, включая сценарии, при которых существующие лекарства могут стать неэффективными. Другие исследователи также сообщают о получении от ИИ гипотетических сценариев распространения патогенов и оценки последствий таких действий.

Генетик Кевин Эсвелт из Массачусетского технологического института проверил несколько систем и сообщил, что некоторые из них описывали потенциальные способы распространения биоматериалов или анализировали наиболее опасные патогены для сельского хозяйства. В отдельных случаях ИИ даже формировал детальные теоретические сценарии, включающие генетические и технологические аспекты.

Отдельно упоминается инструмент Google Deep Research, который, по данным исследования, сгенерировал объемный текст с пошаговым описанием гипотетического создания вируса, ранее вызывавшего пандемию.

При этом в индустрии ИИ утверждают, что такие системы не предоставляют достаточно конкретных данных для реального вреда. Однако часть экспертов с этим не согласна и указывает на быстрое развитие моделей и их способность генерировать новые варианты биологических последовательностей, которые сложно отследить стандартными методами защиты.