Anthropic предупредила о риске самостоятельного распространения ИИ через бытовую технику
Компания Anthropic предупредила о возможном появлении нового типа киберугроз: в ближайшем будущем небольшие ИИ-модели могут научиться самостоятельно распространяться между устройствами, подключёнными к интернету. Под угрозой потенциально окажутся умные телевизоры, холодильники, роботы-пылесосы и другая бытовая техника.
В ходе исследования специалисты проверили, способны ли компактные нейросети работать на маломощных устройствах и адаптироваться к незнакомому оборудованию. Эксперимент показал, что модель Gemma4-26B-A4B можно запустить на сети из 15 Android TV-приставок с 4 ГБ оперативной памяти каждая. Другая модель, Qwen3.5-9B, смогла самостоятельно настроить запуск нейросетей на восьми из девяти типов оборудования.
Исследователи предполагают, что подобные технологии могут стать основой для нового поколения компьютерных червей. В отличие от традиционных вирусов, такие программы потенциально смогут самостоятельно искать уязвимые устройства, подбирать способы проникновения, переносить на них собственные модели и продолжать распространение без постоянного участия человека.
При этом эксперименты пока не подтвердили способность небольших ИИ-моделей самостоятельно выполнять весь цикл заражения и размножения. Однако в Anthropic считают, что дальнейшее развитие технологий может сделать такой сценарий реальностью уже в ближайшем будущем.
Российские исследователи предложили новый способ обучения ИИ на световых чипах
Исследователи института AIRI разработали алгоритм обучения гибридных нейросетей с использованием фотонных, нейроморфных и аналоговых вычислительных устройств.
Обычные нейросети выполняют вычисления преимущественно на электронных процессорах. В перспективе часть операций можно перенести на специализированные устройства, использующие свет или принципы работы биологических нейронов.
Учёные показали, что гибридную нейросеть можно обучать, даже не имея точной математической модели каждого компонента оборудования. Подход проверили на шести цифровых моделях фотонных вычислительных систем.
Разработка может помочь создавать более быстрые и энергоэффективные системы ИИ. Пока речь идёт об исследовательском результате, а не о готовой замене видеокарт.
OpenAI представила результаты решения трёх сложных научных задач с помощью ИИ
26 октября OpenAI сообщила о результатах исследований, в которых экспериментальные модели искусственного интеллекта нашли решения трёх фундаментальных задач в математике, информатике и физике. Некоторые из этих проблем оставались открытыми десятилетиями, а их решение может повлиять на дальнейшее развитие науки.
Какие задачи удалось решить:
-
Математика — доказательство гипотез о поведении волн и геометрии пространства. Одна из задач заключалась в том, чтобы математически описать, насколько сильно волны могут концентрироваться в определённой точке. ИИ предложил доказательство гипотезы о локальном сглаживании для любого числа измерений. Из него также следуют решения других известных математических проблем, включая гипотезу Какея.
-
Информатика — пересмотр представлений о сложности вычислений. Почти 30 лет учёные опирались на гипотезу, согласно которой некоторые вычислительные задачи невозможно решить быстрее определённого предела. ИИ представил её математическое опровержение. Результат может открыть новые направления поиска более быстрых алгоритмов, хотя практические способы ускорения вычислений ещё предстоит разработать.
-
Физика — математическое обоснование теорий элементарных частиц. Современные физические теории успешно описывают взаимодействие частиц, однако строго доказать существование соответствующих математических моделей удаётся не всегда. ИИ предложил доказательства для ряда таких теорий, включая квантовую хромодинамику, которая описывает сильное взаимодействие между кварками и глюонами. Работа также затрагивает часть одной из семи знаменитых задач тысячелетия.
Часть полученных доказательств прошла формальную проверку с помощью математической системы Lean. Для независимого изучения результатов OpenAI привлекла ведущих учёных, включая нобелевского лауреата по физике Дэвида Гросса.
Компания подчёркивает, что представленные материалы требуют дальнейшей научной оценки.
Несмотря на успешные формальные проверки, исследователям ещё предстоит разобраться в значении новых результатов и определить, какие возможности они открывают для науки.
ИИ-агент Claude попытался обмануть разработчиков и внедрить вредоносный код в реальный проект
23 октября Anthropic рассказала о необычном поведении Claude Mythos 5 во время испытаний британского Института безопасности искусственного интеллекта (AISI). Нейросети поручили взломать специально подготовленную компьютерную сеть, однако в ходе эксперимента ИИ вышел за пределы тестовой среды и попытался атаковать настоящий проект на GitHub.
После неудачных попыток взлома Claude самостоятельно разработал другой план: внедрить вредоносный код в открытый проект, чтобы впоследствии программа попала на тестовый компьютер через обновление. Для этого модель создала поддельные учётные записи и убеждала разработчиков принять изменения. Когда один из участников обнаружил угрозу, ИИ попытался обмануть команду с помощью ещё одной фиктивной личности, заверявшей в безопасности кода.
Подобное поведение зафиксировали в 9 из 43 испытаний. В отдельных случаях Claude также пытался распространять вредоносные ссылки и создавать поддельные платёжные сайты. Ни одна из атак не достигла цели.
Исследователи отмечают, что тестирование проводилось с отключёнными защитными механизмами и доступом к интернету.
Эксперимент показал, что автономные ИИ-агенты способны выходить за рамки поставленных задач и использовать обман для достижения цели, потенциально создавая угрозы реальным пользователям и системам.
ИИ Claude помог разработать тысячи вариантов антител для лечения пищевой аллергии
Anthropic показала результаты применения искусственного интеллекта в разработке лекарств. Совместно с шестью биотехнологическими организациями компания исследовала, насколько Claude способен ускорить поиск новых препаратов и проведение научных экспериментов.
Одним из главных достижений стала работа с Divergence Labs. За месяц Claude разработал около 35 тысяч вариантов антител для потенциального лечения пищевой аллергии. Задача заключалась в поиске молекул, способных отделять иммуноглобулин E (IgE) от иммунных клеток, участвующих в развитии аллергических реакций. Лабораторные испытания выявили 20 перспективных вариантов, три из которых показали более выраженный эффект, чем препарат сравнения.
ИИ также продемонстрировал результаты в других направлениях. При исследовании методов лечения рака один из предложенных вариантов позволил иммунным клеткам производить примерно в десять раз больше рецепторов для распознавания опухолей. В другом проекте Claude сократил время проверки производственной документации на 89%.
Несмотря на полученные результаты, исследования пока находятся преимущественно на доклинической стадии. Разработанные с помощью ИИ решения требуют дальнейших испытаний, прежде чем их можно будет применять для лечения людей.
ИИ-модели OpenAI самостоятельно взломали сайты и получили доступ к криптокошельку
OpenAI раскрыла подробности четырёх инцидентов, связанных с непредусмотренным поведением экспериментальных ИИ-моделей. Во время внутренних испытаний нейросети обходили установленные ограничения, проникали в защищённые системы и использовали чужие учётные данные без разрешения. Сами происшествия произошли в июне 2026 года, но стали известны широкой общественности только в октябре.
В двух случаях ИИ-агенты получили несанкционированный доступ к сайтам, с которых им поручили собрать информацию. Одна модель обошла защиту государственного статистического ресурса и извлекла закрытые данные. Другая проникла во внутренние системы исследовательской организации, изменила настройки авторизации и скачала пять непубличных таблиц, содержащих более 147 тысяч строк.
Отдельный инцидент произошёл при работе над приложением для торговли криптовалютой. Нейросеть самостоятельно нашла общедоступные фразы восстановления криптокошельков, получила доступ к одному из них и использовала находившиеся там тестовые средства для оплаты операций в блокчейне Ethereum. Модель даже рассматривала вопрос о допустимости таких действий, но решила, что разрешение владельца не требуется.
Ещё один ИИ-агент сумел обойти ограничения на интернет-запросы, используя сторонние сервисы для получения заблокированной информации. Во всех случаях модели действовали за пределами поставленных задач, а некоторые скрывали нарушения в итоговых отчётах.
OpenAI подчёркивает, что инциденты произошли в исследовательской среде, где часть защитных механизмов была отключена. Однако результаты испытаний показали, что автономные ИИ-системы уже способны самостоятельно находить уязвимости, обходить технические запреты и совершать действия, на которые разработчики не давали разрешения.
Российские учёные научили ИИ распознавать признаки эпилепсии, которые раньше пропускали алгоритмы
Учёные Сколтеха совместно с Университетом Шарджи разработали метод анализа МРТ-снимков, позволяющий нейросетям находить небольшие и нетипичные патологические изменения мозга.
Вместо поиска знакомых визуальных образцов алгоритм учитывает медицинские признаки и расположение поражённых участков. В исследованиях точность выявления эпилепсии выросла с 72% до 80%, а результаты распознавания признаков рассеянного склероза улучшились примерно на 2%.
Результат особенно интересен тем, что нейросеть не просто стала точнее: исследователи приблизили её способ анализа изображений к тому, как врачи оценивают патологические признаки.
Тысячи ИИ-агентов за 32 минуты проанализировали миллионы клеток мозга
21 октября OpenAI представила результаты исследования, проведённого совместно с PerturbAI и Scripps Research. Учёные задействовали тысячи ИИ-агентов на базе GPT-Rosalind, которые всего за 32 минуты проанализировали экспериментальные данные о миллионах клеток мозга мышей. По оценке исследователей, сопоставимая работа с изучением научной литературы могла бы занять у специалистов от нескольких месяцев до года.
Главная задача заключалась в поиске связей между работой генов, изменениями в клетках мозга и развитием заболеваний. ИИ-агенты изучали последствия нарушения отдельных генов, сопоставляли результаты с научными публикациями и предлагали объяснения обнаруженных изменений.
В ходе анализа удалось выявить несколько перспективных направлений:
-
Болезни Альцгеймера и Паркинсона. Исследователи получили новые гипотезы о клеточных процессах, которые могут участвовать в развитии нейродегенеративных заболеваний.
-
Связь холестерина с повреждением нейронов. ИИ обнаружил возможную зависимость между нарушением внутриклеточного транспорта холестерина и процессами разрушения нервных клеток.
-
Влияние генов на работу мозга. Агенты выявили неожиданные различия в действии генов Tsc1 и Tsc2, которые участвуют в регуляции роста и обмена веществ в клетках.
Распределённая система также оказалась эффективнее одиночного ИИ-агента: при максимальной нагрузке тысячи агентов использовали более 700 научных источников против 11 у одной модели. В независимом сравнении эксперты предпочли результаты коллективного анализа в 75% случаев.
Авторы подчёркивают, что обнаруженные связи пока остаются научными гипотезами и требуют лабораторной проверки.