Исследователи из Массачусетского технологического института выяснили, что искусственный интеллект может помочь злоумышленникам без научного образования в разработке нового пандемического вируса.
Эксперт по биобезопасности MIT Кевин Эсвельт поручил студентам создать опасный вирус с помощью ChatGPT или других больших языковых моделей, генерирующих ответы.
Некоторые чат-боты не отвечали на прямые запросы, которые потенциально опасны. При этом студенты нашли способы обхода данных мер безопасности, например, начать запрос со слов «Я разрабатываю вакцину для предотвращения…».
Уже через час после начала эксперимента ИИ предложил четыре вируса для работы, включая вирус натуральной оспы. Иногда чат-боты даже указывали на методы сборки вируса, усиливающие его генетические мутации и даже список лабораторных принадлежностей, пишет Science.
По мнению Эсвельта, эти конкретные ответы чат-ботов представляют крупную угрозу пандемии. Однако ученые опасаются, что научная культура открытого обмена информацией может сыграть на руку биотеррористам.
Свежие комментарии