Anthropic нашла систему наподобие CRISPR с помощью ИИ за 21 час

Anthropic сообщила, что её влажная биологическая лаборатория в районе залива, где компания использует свои модели ИИ для физических экспериментов, обнаружила новую ферментную систему со свойствами, напоминающими CRISPR. О открытии было объявлено на этой неделе, спустя неделю после того, как компания подтвердила существование лаборатории.

CRISPR — это естественная иммунная система, используемая бактериями для борьбы с вирусами, которая стала технологией редактирования генов, широко используемой исследователями.

Что именно нашли в ДНК бактериофагов?

По сути, Anthropic говорит, что обнаружил ранее неизвестную ферментную систему, скрытую в ДНК бактериофагов, которые являются вирусами, которые заражают и реплицируются внутри бактерий. Исследователи Anthropic говорят, что эта система ведет себя аналогично CRISPR, поскольку она может «выполнять такие операции, как резка, копирование и вставка ДНК».

Это будет зависеть от более широкого исследовательского сообщества, чтобы подтвердить, насколько большим или новым является это открытие. Генеральный директор Anthropic Дарио Амодей признает, что открытие было основано на работе других, и что команда из Стэнфорда ранее обнаружила систему, «которая в некотором роде похожа на ту, которую нашел Клод».

Но Амодей и Антропик не просто подчеркивают это открытие. Они рекламируют, что это было найдено «в основном, хотя и не полностью, Клодом», — написал генеральный директор.

Сколько времени Клод потратил на открытие?

С одной стороны, это поразительно. Эта лаборатория была создана только этой весной (хотя Антропик отказался уточнить, сколько месяцев она была открыта). Открытие всего за несколько коротких месяцев было бы достаточно быстрой работой, но команда сказала, что на самом деле Клоду потребовалось всего 21 час согласованных усилий. Клод искал данные, используя около 950 агентов, которые сожгли 210 миллионов токенов.

Тем не менее, откровение о том, что Anthropic проводит биологические эксперименты, появилось сразу после того, как руководители AI, в том числе Amodei, публично признали, что модели стали настолько способными и настолько потенциально опасными, что индустрия должна замедлить и разработать процедуры тестирования на безопасность. Это произошло после того, как несколько его сотрудников публично заявили в начале этого месяца, что существует риск того, что ИИ может убить всех нас.

Сам Амодей сказал, что больше всего он опасается того, что ИИ может быть использован для биотерроризма. Но он также считает, что ИИ «излечит большинство заболеваний через 5-10 лет». Таким образом, Антропик ясно решил, что вознаграждение стоит рисков.

Проводились ли опыты людьми или ИИ?

Учитывая это, возможно, самым большим открытием в этой новости является не само открытие, а то, что биологическая лаборатория не позволила Клоду освободиться. Физические эксперименты проводились людьми.

«Наша лаборатория, расположенная в районе залива, выглядит как типичная лаборатория молекулярной биологии. Мы проводим исследования, которые включают только более низкие уровни риска биобезопасности (BSL-1 и BSL-2), и мы не обрабатываем патогены, которые могут инфицировать людей. Все лабораторные работы выполняются учеными-людьми».

Занимаются ли этим и другие компании?

Это также правда, что биологические исследования, основанные на ИИ, вряд ли уникальны для Anthropic. Исследователи из Стэнфорда только что опубликовали статью о работе, которую они делают с LLM и CRISPR. Исследователи из Калифорнийского университета в Сан-Франциско использовали ИИ для разработки ферментов с нуля. Google запустил свой первый инструмент исследования биологии на основе ИИ AlphaFold еще в 2020 году. Таким образом, ИИ явно прибыл в биологические исследования за пределами лабораторий ИИ, преследующих его самостоятельно.

Тем не менее, Amodei не исключил полностью автоматизированную биологическую лабораторию в будущем. «В конце концов, сам Клод может даже безопасно выполнять эксперименты, автономно контролируя лабораторное оборудование с соответствующими гарантиями, но мы не делаем этого сегодня», — сказал он.

Вопросы и ответы

Сколько времени Клод потратил на открытие ферментной системы?

По словам команды, Клоду потребовалось всего 21 час согласованных усилий. Он искал данные, используя около 950 агентов, которые сожгли 210 миллионов токенов.

Проводились ли физические эксперименты людьми или ИИ?

Физические эксперименты выполняли учёные-люди. Лаборатория в районе залива работает только с уровнями биобезопасности BSL-1 и BSL-2, не обрабатывает патогены, способные заражать людей, и не позволила Клоду освободиться.

Занимаются ли другие компании или исследователи подобными биологическими разработками с ИИ?

Да. Стэнфордские исследователи опубликовали работу об LLM и CRISPR, в UCSF использовали ИИ для создания ферментов с нуля, а Google запустил AlphaFold ещё в 2020 году.