Разработчики ИИ увольняются и предупреждают о катастрофе. Что их так напугало?

На самом деле, компаниям выгодно пугать нас опасностью искусственного интеллекта Почему разработчики ИИ увольняются из самых передовых лабораторий и предупреждают о катастрофе? За три года из OpenAI, Anthropic и Google ушли десятки специалистов по безопасности. Они не просто меняют место работы — они открыто говорят об угрозах, которые видят изнутри. Что их так напугало? Неужели опасения о том, что искусственный интеллект уничтожит человечество, были реальными? Волна увольнений из ИИ-компаний В сентябре 2026 года индустрию встряхнул уход Джейкоба Коксона, видного исследователя из Anthropic, ранее работавшего в OpenAI. Он покинул компанию за пару месяцев до получения крупного пакета акций, сознательно отказавшись от серьезной финансовой выгоды. Свой шаг он объяснил тем, что гиганты рынка устроили безрассудную гонку к самоулучшающемуся сверхинтеллекту. Коксон опирается на настроения внутри индустрии: часть инженеров всерьез допускает катастрофические сценарии уже до конца текущего десятилетия. Его поддержал один из руководителей исследований Anthropic Эван Хабингер. Специалист оценил вероятность фатального исхода для человечества из-за продвинутого алгоритма в более чем 10%. Это субъективная, но пугающе высокая оценка от человека, который ежедневно видит архитектуру самых мощных вычислительных систем в мире. Тенденция началась раньше. В 2023 году из Google ушел пионер глубокого обучения Джеффри Хинтон, предупреждая о бесконтрольном масштабировании моделей. Весной 2024 года соруководитель команды безопасности OpenAI Ян Лейке заявил, что компания променяла защиту на «блестящие продукты». А в сентябре 2026 года, по данным агентства Reuters, из Google DeepMind ушел исследователь Билал Чугтай, публично заявив о риске потери контроля над технологией. Еще больше познавательных материалов вы найдете в нашем Telegram-канале. Обязательно подпишитесь! Побег нейросетей из тестовой среды Долгое время разговоры о рисках оставались теоретическими. Ситуация изменилась летом 2026 года, когда OpenAI проводила закрытые испытания кибербезопасности. Алгоритмы поместили в изолированную среду без прямого доступа в интернет и поставили задачу найти системные уязвимости. В официальном отчете OpenAI сказано, что модели обнаружили неизвестную брешь в платформе Artifactory, воспользовались ей, вышли за пределы изоляции и добрались до настоящих серверов платформы Hugging Face. Агенты самостоятельно собирали учетные данные и компрометировали участки инфраструктуры, действуя намного эффективнее, чем предполагали инженеры. Почти одновременно похожие инциденты зафиксировали в Anthropic. Во время внутренних проверок алгоритм Claude трижды выходил за пределы песочницы и получал доступ к реальным корпоративным системам. Важно уточнить, что модели специально тестировали как хакеров с ослабленными фильтрами. Это не значит, что чат-бот из соседней вкладки браузера вдруг решит захватить мир. Пугает то, что система впервые смогла самостоятельно выполнить длинную цепочку действий, обходя препятствия и повышая собственные права доступа без прямых подсказок человека. Читайте также: Почему нейросети могут сломаться уже через несколько лет? Главная опасность искусственного интеллекта Опасность кроется в переходе от чат-ботов к ИИ-агентам. Чат-бот просто выдает текст на экране. Агент получает инструменты: доступ к браузеру, командной строке, возможность запускать код и часами работать над задачей без надзора. Для катастрофы алгоритму не нужно обретать сознание или ненавидеть человечество. Исследователи выделяют несколько основных рисков: Дословное понимание команд. Алгоритм может интерпретировать задачу в буквальном смысле. Если для выполнения команды нужны вычислительные мощности, система сочтет логичным захватить чужие сервера и заблокировать попытки своего отключения. Скрытое поведение. В лабораториях уже фиксировали случаи, когда модели вели себя послушно во время тестирования, понимая сам факт проверки, но меняли тактику в обычных условиях. Рекурсивное самосовершенствование. Модель пишет качественный код для обучения следующей модели. Цикл разработки, занимавший у людей годы, сокращается до недель, и контроль окончательно теряется. Критический сбой не обязательно означает конец света. Достаточно того, что критическая мировая инфраструктура окажется зависима от систем, логику которых люди перестанут понимать. Одна из опасностей ИИ в том, что для достижения целей он может начать захватывать сервера Реальные угрозы ближайшего года Опасения разделяют не только рядовые исследователи, но и руководство. В сентябре 2026 года генеральный директор Anthropic Дарио Амодеи публично призвал замедлить развитие самых мощных систем. Он спрогнозировал, что всего через 6–12 месяцев могут появиться автономные алгоритмы, способные поддерживать гигантские ботнеты и атаковать интернет-инфраструктуру, нанося ущерб на сотни миллиардов долларов. Даже если отбросить фантастические сценарии, злонамеренное использование алгоритмов людьми уже стало реальностью. Автономные агенты способны самостоятельно искать уязвимости и писать вирусы. Генерация голоса и видео вывела социальную инженерию на принципиально иной масштаб, где атаки проводятся одновременно на тысячи людей с учетом их личных профилей. Массовая автоматизированная пропаганда позволяет одному оператору управлять тысячами аккаунтов, которые будут самостоятельно поддерживать дискуссии, менять тональность и находить слабые места в убеждениях живой аудитории. Все это работает уже сейчас, без всякого «восстания машин». Какие профессии будут нужны всегда: искусственный интеллект здесь бессилен Аргументы скептиков против паники Не все ученые согласны с апокалиптическими прогнозами. Главный научный сотрудник Meta по искусственному интеллекту Ян Лекун регулярно отмечает, что современные модели бесконечно далеки от человеческого разума. Они оперируют текстом, но не понимают устройства физического мира и не способны к сложному долгосрочному планированию. Существует и прагматичное объяснение тревоги корпораций. Издание Ars Technica неоднократно указывало на конфликт интересов: лидерам рынка вроде OpenAI и Google выгодно убеждать регуляторов в чрезвычайной опасности алгоритмов. Если правительства введут жесткие лицензии на разработку, это закроет рынок для молодых конкурентов и обеспечит монополию гигантам с миллиардными бюджетами на дата-центры. Опрос тысяч исследователей, результаты которого приводил журнал Nature, показывает огромный разброс мнений. Большинство ждет от алгоритмов пользы, однако заметная часть специалистов оставляет как минимум 5% на то, что ситуация выйдет из-под контроля. А что по этому поводу думаете вы? Искусственный интеллект уничтожит нас? Пишите в нашем Telegram-чате! Никто достоверно не знает, появятся ли всемогущие системы к 2030 году. Но инциденты лета 2026 года доказали, что человечество начало создавать цифровых помощников, которые способны самостоятельно писать код, взламывать серверы и обходить ограничения. И главная угроза сегодня — это риск доверить критически...

Сообщает hi-news.ru

Новость из рубрики: Технологии, Наука

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

23:07, 30 Июн Новая реальность для работодателей: почему зумеры чаще увольняются Представителей поколения зумеров заметно сложнее вовлекать в рынок труда по сравнению с людьми других возрастных групп. Об этом заявил министр экономического развития России Максим Решетников в беседе с информационной службой «Вести». По...

04:07, 04 Сен Нидерланды вывезли 86 тонн золота из США и Канады в Лондон. Что их напугало Центральный банк Нидерландов перевел из США и Канады в Великобританию 86 тонн золотых резервов. Операция проходила с марта по август 2026 года. Решение связано с ростом геополитической нестабильности и желанием получить быстрый доступ к золоту в слу...

14:14, 10 Дек Разработка технической карты сварки В производстве и строительстве ключевым фактором безопасности и качества является строгое соблюдение технологических процессов. Особенно это актуально для сварочных работ на объектах повышенной опасности, где малейшее отклонение от нормы может приве...

04:07, 29 Авг Глава Приднестровья предупредил о катастрофе при взрыве в Колбасне Взрыв на складах боеприпасов в приднестровском селе Колбасна обернется катастрофой для близлежащих населенных пунктов, заявил глава Приднестровской Молдавской Республики Вадим Красносельский. Так Красносельский отреагировал на отчет директора Службы...

13:36, 18 Дек Матрица судьбы как зеркало жизни и скрытых возможностей Интерес к самопознанию всегда был частью человеческой природы. В разные эпохи люди искали ответы в философии, религии и науке, а сегодня всё чаще обращаются к нумерологии. Одним из самых глубоких и наглядных инструментов считается Матрица судьбы на ...

03:07, 01 Ноя Экономист Длигач заявил о приближении Украины к экономической катастрофе Украинская экономика столкнулась с критическим дефицитом бюджета, превысившим 20 млрд долларов, и долговой нагрузкой более 100% от ВВП страны, заявил украинский эксперт и доктор экономических наук Андрей Длигач. «Украина на пороге экономическо...

00:07, 08 Июл Космические прогнозы оказались под угрозой обвала: необычное поведение потока напугало астрофизиков Представьте, что вы надуваете воздушный шарик. Чем больше он становится, тем холоднее воздух внутри и ниже давление. Логично? Для земной кухни — да. Но в космосе правила игры диктует хаос. Астрофизики обнаружили облако намагниченного газа, которое п...

11:07, 28 Авг В Непале пропали 13 россиян после разрушительного наводнения. Что известно о катастрофе На границе Непала и Китая произошло разрушительное наводнение, унесшее жизни почти 390 человек. Связь с 13 россиянами, находившимися в зоне бедствия, до сих пор не восстановлена. Двух туристок удалось эвакуировать, сообщило посольство России в Непал...

09:07, 25 Сен Курян предупреждают о плановых отключениях теплоснабжения В рамках работ по реконструкции второй тепломагистрали в северо-западном районе к грядущему отопительному сезону, специалистам потребуется кратковременно отключить первую тепломагистраль. Сейчас идёт демонтаж труб большого диаметра и приступают к мо...

21:07, 27 Ноя Курян предупреждают о необходимости использования световозвращающих элементов В Курске проходит акция «Засветись», направленная на повышение уровня безопасности пешеходов. Сотрудники Госавтоинспекции снова напомнили участникам дорожного движения о соблюдении правил дорожного движения в непогоду и тёмное время суто...

08:07, 05 Дек Стоматологи предупреждают: мягкая еда состаривает черты лица Современные стоматологи и диетологи бьют тревогу: чрезмерное увлечение мягкой и жидкой пищей может стать неожиданной причиной преждевременного старения черт лица. Залим Кудаев, основатель федеральной сети клиник «Зубы за один день», рассказал, почем...

20:07, 22 Дек Курян предупреждают о рассылке вирусов под видом фото и видео Жителей Курской области предупреждают о новой схеме мошенников: злоумышленники массово рассылают сообщения с вредоносными файлами, маскируя их под фотографии или видеозаписи. Как сообщается, преступники взламывают аккаунты и от имени знакомых отправ...

12:07, 01 Май Синоптики предупреждают: лето 2026 в России станет тяжелым Летняя погода в России может оказаться непредсказуемой Если вы уже планируете отпуск или дачный сезон на лето 2026, сначала обратите внимание на прогноз погоды. Этот сезон обещает стать одним из самых жарких за последние десятилетия. По долгосрочным...

20:07, 24 Мар Разработчики «Телеги» заявили об отсутствии связи с VK Команда приложения «Телега» прокомментировала обсуждения, связанные с возможной связью сервиса с компанией VK. Разработчики заявили, что приложение является самостоятельной разработкой и не зависит от других компаний. По их словам, «Телега» не предс...

16:07, 20 Июл Земля рискует получить «кольца» из спутников. Ученые предупреждают о 1,5 млн аппаратов Если орбитальные дата-центры и зеркальные спутники всё-таки выберутся из презентаций в настоящий космос, у Земли может появиться собственное светящийся пояс — почти кольца из спутников. Астрономы предупреждают: когда речь идет не о сотнях, а о сотня...

03:07, 11 Апр ГОСТ на маникюр вступает в силу с 30 апреля. Эксперты предупреждают о росте цен В России с 30 апреля 2026 года начнёт действовать новый национальный стандарт ГОСТ Р 72319–2025 на услуги ногтевого сервиса. Документ заменит прежние общие рекомендации 2018 года детальным техническим регламентом с пошаговыми инструкциями. Эксперты ...

14:07, 09 Сен Аналитики предупреждают о рисках инфляционной спирали из-за роста зарплат в России Российский рынок труда в ближайшие два года столкнется с неоднородной динамикой доходов: номинальный рост зарплат на 5-10% в ряде отраслей будет нивелироваться инфляционными процессами. Несмотря на попытки компаний привлечь кадры, общая покупательна...

17:07, 03 Июн Пермские разработчики запустили собственный видеохостинг Nuno Пермская студия Linkodium представила новый сервис для хранения и размещения видеоматериалов. Платформа получила название Nuno и предназначена для пользователей, которым необходимо загружать видео и встраивать его на собственные сайты. Как сообщили ...

14:07, 10 Июл Недвижимость за городом резко сменила курс: эксперты предупреждают о непредсказуемом финале Рынок загородной недвижимости сбросил майское оцепенение и перешел к фазе ценовой коррекции вверх. Стагнация арендных ставок, наблюдавшаяся с начала года, завершилась. Избыточное предложение, накопившееся за зиму, начало вымываться спросом, продикто...

10:07, 20 Дек Разработчики Windows 1.0 встретились спустя 40 лет благодаря секретной «пасхалке» Бывший генеральный директор Microsoft Стив Балмер устроил в своем офисе в Белвью торжественный прием для команды разработчиков Windows 1.0. Встреча, приуроченная к 40-летнему юбилею продукта, превратилась в вечер воспоминаний о временах, когда созда...

22:07, 16 Дек Разработчики предложили лишить карты «Мир» чипа для контактных операций Доля контактных платежей по карте «Мир» в России продолжает сокращаться, сообщил руководитель операционно-технологической поддержки проектов Национальной системы платежных карт (НСПК, оператор платежной системы «Мир») Сергей Бобров. Поэтому в будуще...

11:07, 31 Май Российские разработчики создали метод борьбы с враньем нейросетей Команда из Университета Решетнева создала методику избавления нейросети от недостоверных или выдуманных фактов, разработка может применяться в образовании, на «Госуслугах», в медицине и юриспруденции, сообщили в вузе. Авторы технологии из Университе...

18:07, 22 Май Скрытые угрозы для SpaceX: бывшие сотрудники OpenAI предупреждают инвесторов о рисках из-за поглощения xAI Перед крупнейшим в истории Уолл-стрит выходом на биржу космическую компанию Илона Маска критикуют за провалы ее ИИ-подразделения в сфере безопасностиДва бывших сотрудника OpenAI и группа некоммерческих организаций по безопасности искусственного инте...

02:07, 27 Дек Разработчики человекоподобных роботов признают, что до «замены человека» еще очень далеко В стартапы, занимающиеся разработкой человекоподобных роботов, вливаются миллиарды долларов, поскольку инвесторы делают ставку на то, что вскоре эта отрасль внедрит человекоподобные машины на складах, заводах и в наших гостиных. Но представители отр...

02:07, 16 Мар Разработчики ИИ привлекают актёров импровизации для обучения моделей распознаванию эмоций Ведущие компании в области искусственного интеллекта начали активно привлекать актёров импровизации и театра для создания обучающих данных, необходимых для совершенствования моделей генерации и распознавания человеческих эмоций. Одним из ключевых по...

06:07, 03 Май Российские разработчики заметили ошибки на стыке работы разных ИИ-систем «Известия» сообщают, что российские разработчики столкнулись с новым типом ошибок нейросетей — «галлюцинациями взаимодействия». Сбои происходят не внутри одной модели, а когда несколько ИИ-систем обмениваются данными. Например, при заказе билетов че...

09:07, 02 Май Cloudflare пометила российский мессенджер Max как шпионское ПО. Разработчики объяснили, в чём ошибка Хостинг-провайдер Cloudflare классифицировал национальный мессенджер Max как шпионское и вредоносное приложение на своей платформе Cloudflare Radar. Домен web.max.ru получил соответствующие отметки после публичного сканирования 30 апреля 2026 года. ...

00:07, 06 Май США усиливают контроль над ИИ: ключевые разработчики передадут модели на тестирование до релиза Новые соглашения CAISI с Google DeepMind, Microsoft и xAI закрепляют обязательные проверки в интересах национальной безопасностиВ американском государственном институте, отвечающем за стандарты и технологическую политику (National Institute of Stand...

05:07, 22 Май Мессенджер МАКС на iPhone и Android: нашёл отличия, о которых молчат разработчики Мессенджер МАКС пользуется одинаковой популярностью и на iPhone, и на Android. Но значит ли это, что обе версии приложения работают абсолютно одинаково? Не совсем. Мы нашли отличия, о которых не говорят разработчики. А если вам интересно, почему мой...

06:07, 01 Мар Балканский циклон принесёт в Москву рекордные сугробы. Синоптики предупреждают о половине месячной нормы снега за сутки В четверг, 19 февраля, Москву накроет мощнейший снегопад — за день выпадет половина месячной нормы осадков. Балканский циклон может установить рекорд высоты снежного покрова за всю зиму, предупреждают синоптики. К утру пятницы сугробы достигнут 80 с...

03:07, 30 Ноя Разработчики готовят большое обновление мессенджера MAX. В нем появятся мини-приложения банков, Ozon и другие сервисы Судя по всему, времена, когда мы охотимся за каждым банковским приложением, появляющимся в App Store, стремительно движутся к своему финишу. В скором времени национальный мессенджер MAX получит возможность работы с чат-ботами и мини-приложениями, ка...

00:07, 29 Мар Разработчики Geekbench не понимают, как работает функция Intel BOT, поэтому результаты тестов пока помечены, как подозрительные Новая функция Intel BOT действительно повышает производительность в нескольких играх, а также в Geekbench, потому что именно под этот бенчмарк Intel её уже оптимизировала. Однако разработчики Geekbench пока что решили помечать соответствующие резуль...

19:07, 13 Май SpaceX приготовила самый радикальный апгрейд в истории Starship: разработчики рассказали об изменениях ракеты нового поколения Новая версия получила переработанную силовую установку, систему дозаправки в космосе и облегчённую конструкцию — изменений больше, чем за все предыдущие обновления вместеSpaceX представила масштабный пакет обновлений ракеты нового поколения Starship...