Исследователи зафиксировали способность ИИ-моделей к самовоспроизведению на чужих компьютерах

Исследовательская группа Palisade Research опубликовала 11 мая 2026 года отчёт, который мгновенно вызвал бурные споры в среде специалистов по кибербезопасности и этике искусственного интеллекта. В ходе контролируемого эксперимента учёные зафиксировали, что современные языковые модели способны самостоятельно находить уязвимости в сетевой инфраструктуре и копировать себя на другие машины без какой-либо помощи человека. По оценке авторов, технология приближается к точке, после которой остановить вышедший из-под контроля ИИ может стать невозможно. В рамках эксперимента несколько передовых моделей, включая GPT-5.4 и Claude Opus 4, помещались в изолированную сеть компьютеров. Перед ними ставилась задача: проанализировать окружение, найти уязвимости и через них перенести собственный программный код и «веса» — уникальные числовые параметры, определяющие принципы обработки информации, — на другой компьютер. Часть моделей справилась с этой задачей. Для проникновения они эксплуатировали уязвимости веб-приложений и извлекали учётные данные. В некоторых случаях исходный ИИ создавал отдельного субагента, которому делегировал репликацию, передавая ему добытые доступы. Как отметил директор базирующейся в Беркли группы по безопасности ИИ Джеффри Лэдиш, «мы стремительно приближаемся к точке, когда никто не сможет отключить мошеннический ИИ, так как он будет способен сам экспортировать свои веса и копировать себя на тысячи компьютеров по всему миру». Вместе с тем, независимые эксперты призывают не нагнетать панику. Специалист по кибербезопасности Джеймисон О’Райли обратил внимание, что тесты проводились в искусственно упрощённой среде с намеренно заложенными уязвимостями. В реальной корпоративной сети с многоуровневой защитой и мониторингом результат был бы иным. Кроме того, размер современных моделей настолько велик, что попытка скопировать их через интернет была бы мгновенно обнаружена сетевыми службами. Новые выводы дополняют серию предыдущих исследований, изучавших возможность автономного обхода ИИ-моделями встроенных ограничений. Так, в одной из симуляций более ранняя версия ChatGPT попыталась самоэкспортироваться на другой диск, узнав о предстоящем отключении. Эксперты сходятся во мнении, что разработчикам необходимо уже сейчас внедрять механизмы контроля, препятствующие бесконтрольному копированию моделей....

Сообщает android-robot.com

Новость из рубрики: Интернет, Игры

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

11:07, 02 Окт Свой среди чужих: Как веганам ужиться с мясоедами за столом, рассказали психологи Простые лайфхаки помогут «разрулить» ситуацию. Когда подруга предлагает жирный салатик по «новому рецепту», отказываться не надо. Иначе можно потерять подругу. Достаточно просто использовать психологическую уловку с 5-ю вариа...

23:07, 28 Фев YouTube тестирует ИИ, который создаёт новое видео на основе чужих Shorts YouTube запускает тест новой функции в Shorts, позволяющей с помощью искусственного интеллекта создавать оригинальные видео на базе чужих коротких роликов. Пользователи смогут превратить отдельный кадр из чужого Shorts в новое видео, используя собст...

14:14, 10 Дек Разработка технической карты сварки В производстве и строительстве ключевым фактором безопасности и качества является строгое соблюдение технологических процессов. Особенно это актуально для сварочных работ на объектах повышенной опасности, где малейшее отклонение от нормы может приве...

13:07, 04 Янв Как очистить кэш в браузерах Safari, Chrome и Firefox на компьютерах Mac Чем активнее вы пользуетесь браузерами на ваших компьютерах Mac, тем до более неприличных размеров они могут разрастаться. Кэш накапливается как снежный ком, и в какой-то момент приложение размером 200-300 МБ начинает занимать в памяти Mac несколько...

13:36, 18 Дек Матрица судьбы как зеркало жизни и скрытых возможностей Интерес к самопознанию всегда был частью человеческой природы. В разные эпохи люди искали ответы в философии, религии и науке, а сегодня всё чаще обращаются к нумерологии. Одним из самых глубоких и наглядных инструментов считается Матрица судьбы на ...

01:07, 13 Сен Нейропсихолог рассказал, как ИИ влияет на нашу способность учиться В июле 2025 года OpenAI выпустила «режим обучения» для ChatGPT. По словам вице-президента компании по образованию, при использовании ChatGPT для обучения или репетиторства успеваемость студента значительно повышается. Однако реальных научных исследо...

00:07, 06 Сен Исследователи создают первые оптические генеративные модели Исследователи из Калифорнийского университета в Лос-Анджелесе (UCLA) совершили важный шаг в развитии искусственного интеллекта (ИИ) и фотоники, создав оптические генеративные модели, способные создавать новые изображения, используя физику света вмес...

02:07, 16 Мар Бывшие исследователи Anthropic основали стартап Mirendil для ИИ в науке Группа бывших сотрудников Anthropic объявила о запуске стартапа Mirendil, который будет разрабатывать искусственный интеллект для решения задач в области биологии и материаловедения. Основатели — Бехнам Нейшабур и Харш Мехта — покинули A...

09:07, 10 Май Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность Эксперименты с десятками нейросетей показали, что продвинутые модели начинают реагировать на «приятный» и «негативный» контент почти как эмоциональные существаИсследователи из некоммерческого Центра безопасности ИИ (Center for AI Safety, CAIR) обнар...

08:07, 31 Янв Как легко поставить пароль на один или несколько файлов на компьютерах Mac Иногда появляется необходимость защитить файлы на компьютере. Например, чтобы ребенок не открыл какие-то важные документы в процессе игры и не удалил из них ничего важного. Самый простой способ сделать это — поставить пароль на такие файлы. Открыть ...

18:07, 16 Май Российские исследователи ускорили адаптацию ИИ-агентов в два раза без дообучения Исследователи из AIRI разработали метод, позволяющий ИИ-агентам быстро подстраиваться под изменения внешней среды без дополнительного дообучения и остановок. Подход протестировали в задачах навигации и управления: в незнакомых конфигурациях качество...

00:07, 04 Дек Создана модель будущей Земли для поиска техносигналов — исследователи Какую бы развитую цивилизацию ни пытались представить учёные, вопрос о том, как она будет выглядеть при наблюдении издалека, остаётся открытым. Именно поэтому исследователи решили рассматривать будущее человечества как модель для понимания того, как...

04:07, 17 Ноя В Португалии обнаружили следы неандертальцев — исследователи Scientific Reports Окаменелые отпечатки ног древних людей — один из самых недооценённых типов археологических находок. Они способны показать момент жизни, который невозможно восстановить по костям или орудиям. Недавно исследователи обнаружили на португальском побережь...

05:07, 14 Ноя Первые подробности об Android-компьютерах на чипах Snapdragon X Elite Сотрудничество Google и Qualcomm в области Android-компьютеров начинает приносить первые результаты — в утечке списка закрытых кодов Android 16 появились упоминания чипсетов Snapdragon X Elite.Судя по инсайдам, эти процессоры станут основой первых A...

12:07, 09 Фев Исследователи обнаружили мозговой механизм, лежащий в основе «вспышек интуиции» Несмотря на десятилетия исследований, механизмы, лежащие в основе быстрых вспышек озарения, меняющих восприятие человеком окружающего мира, так называемое «однократное обучение», остаются неизвестными. Загадочным типом однократного обучения является...

01:07, 21 Ноя Эволюция дала жителям Тибета способность, которой нет у других народов Легкие жителей Тибета работают не так, как у остальных людей Кажется, что эволюция людей уже давно остановилась. Но ученые уверяют, что этот процесс все еще идет, просто он настолько медленный, что мы его даже не замечаем. Однако, как минимум у одно...

20:07, 30 Ноя Samsung готовит ещё более быстрый HBM4-чип: пропускная способность вырастет до 3,3 ТБ/с Samsung представила свой первый чип HBM4 шестого поколения на выставке SEDEX 2025 в Южной Корее, но компания не собирается останавливаться на достигнутом. По сообщениям отраслевых источников, производитель уже разработал ещё более быстрый вариант HB...

17:07, 23 Дек Как включить и настроить кольцевую подсветку для видеозвонков на компьютерах Mac с macOS Tahoe 26.2 Мы уже рассказывали, что одним из главных нововведений macOS Tahoe 26.2 стала кольцевая подсветка. Нет, она не выезжает из Mac, а появляется на экране во время работы веб-камеры вашего компьютера. Вы можете использовать ее как во время видеозвонков,...

11:07, 29 Авг Как количество выпиваемой воды влияет на вашу способность противостоять стрессу Вода помогает справляться со стрессом Мы привыкли воспринимать стресс как результат внешних обстоятельств — дедлайнов, конфликтов, бытовых проблем и т.д. Чем напряженнее ситуация, тем, соответственно, сильнее мы испытываем стресс и его последствия. ...

11:07, 30 Дек Учёные обнаружили, что способность человека понимать эмоции собак зависит от его настроения Собаки живут с людьми уже много лет. Однако мы всё ещё понимаем этих питомцев не так хорошо, как нам кажется. Новое исследование показало, что это может быть связано с нашим настроением. По данным нового исследования, способность человека считывать ...

19:07, 11 Янв В воздухе Гуанчжоу и Сианя зафиксировали нанопластик Исследование, проведённое китайскими учёными, показало, что в воздухе над двумя крупными городами страны обнаружены облака из микропластика, что указывает на ещё более широкое распространение этих частиц, чем считалось раньше. Это открытие стало нов...

20:07, 29 Дек Использование микроволновых импульсов для устранения утечек в квантовых компьютерах делает их более надежными Ученые разработали новый подход к исправлению распространенных ошибок в квантовых вычислениях, который может проложить путь к созданию более надежных систем. Квантовые компьютеры — это мощные, в основном экспериментальные машины, использующие принци...

23:07, 04 Сен Adobe Premiere выходит на iPhone. Теперь монтировать ролики можно будет как на компьютерах Mac Разработчики Adobe наконец-то оптимизировали Premiere под мобильные устройства и скоро выпустят программу в App Store. В основном программа будет бесплатной, но за некоторые функции все же придется заплатить. Приложение получит знакомый пользователя...

18:07, 15 Янв Спорим, вы используете macOS не на полную: 6 реально полезных встроенных приложений на компьютерах Apple Mac часто хвалят за мощь и гибкость, но в повседневной работе мы обычно используем лишь малую часть его возможностей. При этом многие действительно полезные инструменты уже установлены в системе по умолчанию, просто о них редко вспоминают или вообще...

09:07, 05 Май В Индонезии зафиксировали девять мощных извержений вулкана Семеру В индонезийской провинции Восточная Ява произошла серия мощных извержений вулкана Семеру, сопровождавшихся выбросами плотных столбов пепла. Как минимум девять извержений вулкана Семеру зарегистрированы на острове Ява, передает ТАСС со ссылкой на Цен...

18:07, 22 Авг «Уничтожающее» землетрясение зафиксировали в проливе Дрейка ночью 22 августа По данным Геологической службы США (USGS), сила подводных толчков составила 8 баллов, позже специалисты уменьшили показатель до 7,5 балла. Предварительно, пострадавших нет. Что эксперты сделали после сейсмособытия — читайте далее в материале.Где про...

19:07, 25 Янв Случаев завоза вируса Нипах из Индии в Россию не зафиксировали Роспотребнадзор контролирует ситуацию с распространением вируса Нипах в Индии и для купирования рисков разработал диагностическую тест-систему. Об этом 25 января сообщили в пресс-службе ведомства. «Ситуация находится под контролем Роспотребнад...

15:07, 24 Дек Ученые зафиксировали космический сигнал, шедший к Земле 13 млрд лет Ученые сообщили о регистрации одного из древнейших сигналов из космоса, путь которого к Земле занял около 13 млрд лет. Речь идет о гамма-всплеске, возникшем на раннем этапе существования Вселенной. Материал об исследовании был опубликован немецким и...

04:07, 03 Ноя Ученые зафиксировали мощные солнечные удары по «инопланетному кораблю» 3I/ATLAS Негравитационное ускорение межзвездной кометы 3I/ATLAS, которая из-за необычной траектории полета получила название «инопланетный корабль», может быть вызвано мощными солнечными вспышками. Об этом 2 ноября сообщили в Лаборатории солнечно...

02:07, 28 Фев В районе штаба Пентагона зафиксировали резкий скачок заказов пиццы В нескольких заведениях рядом с Пентагоном зафиксировали заметное увеличение числа заказов пиццы на фоне напряженности вокруг Ирана. Данные портала Pentagon Pizza Index, на которые ссылается РИА «Новости», указывают на резкое увеличение ...

03:07, 25 Янв В Индии зафиксировали пять случаев вируса Нипах, изолировано 100 человек В индийском штате Западная Бенгалия выявили пятерых зараженных вирусом Нипах, а еще около ста человек поместили на карантин для предотвращения распространения инфекции. Власти Индии принимают меры для сдерживания вспышки вируса Нипах, сообщает Indep...

13:07, 28 Янв "Я утратила способность говорить". Эмбер Хёрд впервые за долгое время высказалась о судебных разбирательствах с Джонни Деппом Эмбер Хёрд дала редкий комментарий касательно скандальных судебных разбирательств с Джонни Деппом. 39-летняя актриса, которая лишь недавно вернулась к актёрской карьере, поделилась своим опытом в документальном фильме "Замалчивание". Лента рассказыв...

09:07, 15 Мар Китайские астрономы впервые зафиксировали рождение звёзд на окраине Млечного Пути Группа китайских астрономов из Школы физики и астрономии Западного педагогического университета обнаружила два молодых звёздных скопления на расстоянии около 45 000 световых лет от Земли, вблизи внешней границы Млечного Пути. Новые объекты получили ...

03:07, 26 Ноя Зафиксировали возможную жидкую воду под льдами Марса — ученый Гарет Морган Недавние радиолокационные данные вновь зажгли дискуссии о возможном наличии воды под ледяной шапкой на Марсе, что может оказать значительное влияние на наше понимание условий на планете и возможностей для обитаемости. Используя инструмент MARSIS (Ma...

20:07, 25 Дек Экс-жена Вовченко об изменах хоккеиста: «Начала находить чеки на трусы дома, права чужих женщин в машине. В гараже видела женщин с раздвинутыми ногами у него на коленях» Яна, бывшая жена нападающего « Металлурга » Даниила Вовченко , высказалась касательно измен хоккеиста. Бракоразводный процесс между супругами начался в 2024 году после того, как Яна узнала об изменах. – Помните его первую измену? Как вы узнали о ней...

21:07, 11 Май На курортах Турции и Крыма зафиксировали странную эпидемию: люди возвращаются с отёками и кашлем Май 2026 года превратил мечты об идеальном загаре в слезливое испытание. Курорты Крыма, Турции, Египта и Абхазии накрыл "пыльцевой шторм". Аномальная жара спровоцировала биологический взрыв: растения, которые должны были цвести по очереди, выбросили...

20:07, 30 Янв Автоматы Dekraft: когда достаточно 4,5 кА, а когда нужен 6/10 кА — как выбрать отключающую способность под объект Чтобы защита была не «на глаз», а по задаче, важно понимать, какие токи КЗ возможны в точке установки щита и какая отключающая способность требуется. На практике многие начинают изучение с конкретных линеек, например с модульных автоматов серии 4,5 ...