Учёный усомнился в «открытии» ИИ-биолаборатории Anthropic
Учёный из Копенгагенского университета заявил, что «открытие» ферментов ИИ-агентами Anthropic совпадает с его неопубликованной работой. Anthropic отрицает, что Claude обучался на пользовательских данных.
- Марио Родригес Местре заявил, что изучает ферменты ART последние четыре года и делился данными с Claude
- Anthropic утверждает, что не знает о ранее опубликованных работах про ART-систему и что Claude не обучался на пользовательских транскриптах
- Местре заявил, что сворачивает все свои проекты с использованием Claude
На прошлой неделе Anthropic представила результаты работы своей биологической лаборатории: ИИ-агенты нашли новые перспективные ферменты. Специалист по вычислительной биологии Марио Родригес Местре из Копенгагенского университета заявил, что эти же ферменты его команда изучает последние четыре года.
Речь о молекулах, которые Anthropic называет ART — Array-associated Reverse Transcriptases. Местре утверждает, что обнаружил эти ферменты в гигантских фагах ещё в 2022 году. Результаты его исследований пока не опубликованы, но он регулярно использовал модели Anthropic для написания кода и подготовки рукописей.
Что говорят в Anthropic
Компания обвинения отрицает. «Нам неизвестно о каких-либо ранее опубликованных работах, описывающих недавно обнаруженную нами ART-систему. Claude также не обучался на каких-либо пользовательских транскриптах, и у нашей команды молекулярной биологии нет к ним доступа», — заявили в Anthropic.
Исследователи компании рассказали, что дали ИИ-агентам указания искать в базах данных с миллиардами последовательностей генов, но не предоставили точных подсказок. Агенты сами написали софт для поиска похожих генов. По версии Anthropic, ключевой вклад Claude — идентификация набора молекул РНК и белка, связанных с обратной транскриптазой.
Сомнения и контекст
Местре признаёт, что совпадения случаются и точно утверждать, что ИИ опирался именно на его работу, нельзя. «Меня беспокоит то, что эта информация использовалась для обучения будущих версий моделей», — сказал он. Он также заявил, что сворачивает все свои проекты с использованием Claude.
Биоинженер Сет Шипман подтвердил, что знаком с исследованиями Местре: «Мы обсуждаем это с ним уже много лет. Многие из нас знают об этих системах». По его словам, сообщение Anthropic вызвало среди учёных опасения, не обучаются ли модели на их подсказках.
Спор перекликается с историей вокруг OpenAI: компания сообщила о решении математической задачи с помощью ИИ, а математик Тристан Бакмастер заподозрил, что модель позаимствовала идеи из его работы. OpenAI это отрицает.
Для профиТехнические детали: архитектура, цифры, ссылки
По описанию Anthropic, ИИ-агенты искали в базах данных с миллиардами последовательностей генов гены, управляющие производством обратных транскриптаз. Исследователи дали агенту пять примеров таких ферментов, после чего агенты написали собственное ПО для поиска кандидатов.
Найденные гены располагались рядом с набором генов, кодирующих молекулы РНК. Компания назвала ферменты Array-associated Reverse Transcriptases (ART). Местре утверждает, что впервые обнаружил эти ферменты в гигантских фагах в 2022 году и указан соавтором патентной заявки ReNegade Therapeutics 2023 года на ряд обратных транскриптаз.
Вопросы и ответы
- Что именно «открыл» ИИ Anthropic?
- ИИ-агенты нашли ферменты, которые компания назвала Array-associated Reverse Transcriptases (ART), — обратные транскриптазы, связанные с набором молекул РНК.
- Что ответила Anthropic на обвинения?
- Компания заявила, что не знает о ранее опубликованных работах про ART-систему и что Claude не обучался на пользовательских транскриптах.
- Что теперь планирует Марио Родригес Местре?
- Он заявил, что сворачивает все свои проекты с использованием Claude.
