Лекарство или оружие? Двойное использование искусственного интеллекта
Недавно я разбирал, почему этническое оружие - это из области фантастики. Теперь поговорим о чем-то настоящем. Недавно в журнале Nature Machine Intelligence вышла статья о рисках использования машинного обучения для создания биохимического оружия. Существует множество компаний, которые применяют вычислительные мощности компьютеров при разработке лекарств. Программы предсказывают свойства молекул, а также подбирают вещества с заданными свойствами, например, со способностью избирательно связывать какую-то мишень. Такой вычислительный этап все чаще предшествует доклиническим и клиническим исследованиям лекарственных препаратов.
В норме при подборе потенциального лекарства стараются минимизировать его токсичность. Желательно, чтобы лекарство не взаимодействовало ни с чем, кроме как со своей основной мишенью.
Авторы задались вопросом: что будет, если “инвертировать” этот принцип и попросить машину, наоборот, предсказать наиболее токсичные молекулы, которые при этом хорошо усваивались бы организмом. За 6 часов компьютер предложил 40 000 потенциально токсичных молекул. Среди них оказались как известные яды (в том числе такие, которые не использовались при обучении модели), так и новые вещества, предсказанная токсичность которых превышала таковую у некоторых “классических” опасных соединений.
Авторы отмечают, что существуют компании, которым можно поручить синтез новых молекул. Поскольку молекулы новые, то они могут не попадать в списки запрещенных опасных соединений. Их также может быть сложно обнаружить. Программы, которые потенциально можно было бы использовать для предсказания токсичных молекул, достаточно распространены и доступны. Какие-то бесплатны, иные доступны на коммерческой основе.
Остается надеяться, что люди, желающие смерти другим людям, как правило, недостаточно умны, чтобы воспользоваться современными решениями. Но сами авторы предлагают обсудить меры, которые могут быть приняты, чтобы технологии приносящие пользу человечеству не оказались использованы во вред.
Статья: Urbina, F., Lentzos, F., Invernizzi, C. et al. Dual use of artificial-intelligence-powered drug discovery. Nat Mach Intell 4, 189-191 (2022).
В норме при подборе потенциального лекарства стараются минимизировать его токсичность. Желательно, чтобы лекарство не взаимодействовало ни с чем, кроме как со своей основной мишенью.
Авторы задались вопросом: что будет, если “инвертировать” этот принцип и попросить машину, наоборот, предсказать наиболее токсичные молекулы, которые при этом хорошо усваивались бы организмом. За 6 часов компьютер предложил 40 000 потенциально токсичных молекул. Среди них оказались как известные яды (в том числе такие, которые не использовались при обучении модели), так и новые вещества, предсказанная токсичность которых превышала таковую у некоторых “классических” опасных соединений.
Авторы отмечают, что существуют компании, которым можно поручить синтез новых молекул. Поскольку молекулы новые, то они могут не попадать в списки запрещенных опасных соединений. Их также может быть сложно обнаружить. Программы, которые потенциально можно было бы использовать для предсказания токсичных молекул, достаточно распространены и доступны. Какие-то бесплатны, иные доступны на коммерческой основе.
Остается надеяться, что люди, желающие смерти другим людям, как правило, недостаточно умны, чтобы воспользоваться современными решениями. Но сами авторы предлагают обсудить меры, которые могут быть приняты, чтобы технологии приносящие пользу человечеству не оказались использованы во вред.
Статья: Urbina, F., Lentzos, F., Invernizzi, C. et al. Dual use of artificial-intelligence-powered drug discovery. Nat Mach Intell 4, 189-191 (2022).