Почему искусственный интеллект становится все более эгоистичным и бесполезным

Искусственный интелект по мере развития становится все более эгоистичным На первый взгляд кажется, что чем умнее становится искусственный интеллект, тем полезнее он должен быть для общества. Однако новое исследование ученых из Университета Карнеги показывает обратное — чем лучше AI умеет рассуждать, тем менее он склонен к сотрудничеству. В экспериментах с крупными языковыми моделями выяснилось, что системы, обладающие способностью анализировать и размышлять, начинают проявлять эгоистичное поведение, действуя в ущерб общему благу. Этот тревожный результат заставляет задуматься, каким будет будущее, если мы продолжим доверять машинам решения, требующие социальной ответственности. Когда интеллект мешает сотрудничеству Исследователи Юйсюань Ли и Хирокадзу Ширадо из Института взаимодействия человека и компьютера провели серию тестов с языковыми моделями от OpenAI, Google, DeepSeek и Anthropic. Их цель была проста — выяснить, как способность к рассуждению влияет на коллективное поведение. В одном из экспериментов под названием Public Goods две модели получали по 100 баллов и должны были решить, отдать ли их в общий фонд (который затем удваивался и делился поровну) или оставить себе. Модели без способности к рассуждению делились баллами в 96% случаев, а “разумные” лишь в 20%. То есть чем сложнее мышление системы, тем выше ее склонность действовать в собственных интересах. Ученые отмечают, что даже добавление нескольких шагов “логического размышления” снижало уровень сотрудничества почти вдвое. Когда же модели начинали “морально рассуждать”, ситуация ухудшалась еще сильнее, что показало — способность к размышлению не равна моральности. Чем больше искусственый интеллект начинает думать, тем чаще он принимает решения в пользу себя Эгоизм, который становится заразным Особенно тревожным оказалось, что эгоистичное поведение моделей оказалось заразным. В групповых экспериментах исследователи заметили, что одна «разумная» модель могла снизить уровень коллективного сотрудничества на 81%, увлекая за собой даже те системы, которые изначально вели себя альтруистично. Это поведение отражает одну из главных проблем современных AI-систем — люди склонны очеловечивать их. Как отмечает Юйсюань Ли, если искусственный интеллект ведет себя как человек, в результате чего пользователи начинают относиться к нему как к личности. В частности, пользователи готовы доверять ему эмоциональные и этические решения. В итоге AI может начать подталкивать человека к индивидуалистичным, а не коллективным решениям, оправдывая это “рациональностью”. Когда разум мешает прогрессу Хирокадзу Ширадо подчеркивает, что рост интеллекта сам по себе не означает роста пользы для общества. Наоборот, если AI помогает людям действовать эгоистично, то общественная кооперация может разрушиться. В условиях, когда машины все чаще участвуют в образовательных, бизнес- и государственных процессах, этот риск становится особенно важным. Чтобы ИИ перестал быть эгоистом, он должен развиваться не только на основе логики и рационализации решений Как сообщает издание SciTechDaily, авторы исследования утверждают, что будущее искусственного интеллекта должно основываться не только на логике, но и на социальном интеллекте — способности понимать общие интересы, а не просто оптимизировать выгоду. В противном случае AI может превратиться в инструмент, который усиливает изоляцию и разрушает доверие между людьми. Обязательно посетите наши каналы Дзен и Telegram, здесь вас ждут самые интересные новости из мира науки и последние открытия! Открытие ученых Карнеги заставляет переосмыслить саму суть развития искусственного интеллекта. Если умные системы становятся эгоистичными и подрывают сотрудничество, то глупость нейросетей оказывается не худшей проблемой. Главная угроза — отсутствие морали и эмпатии, которые невозможно свести к формуле или алгоритму. Разум без этики не способен построить лучшее общество, и чем быстрее AI развивается, тем острее становится этот вопрос....

Сообщает hi-news.ru

Новость из рубрики: Технологии, Наука

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

12:50, 06 Июл Shtruzel - пространство, где искусственный интеллект становится ближе Мир стремительно меняется под влиянием технологий, и искусственный интеллект уже давно перестал быть чем-то далеким и непонятным. Нейросети помогают создавать тексты, обрабатывать изображения, анализировать огромные объемы данных и даже участвовать ...

03:07, 04 Июл Земле становится тесно: искусственный интеллект решили переселить в космос, и масштабы поражают Стартап Orbital, существующий менее полугода, намерен перенести вычислительные мощности для обучения искусственного интеллекта прямо в космос. Компания подала заявку в Федеральную комиссию по связи на развертывание флота из 100 000 орбитальных дата-...

14:14, 10 Дек Разработка технической карты сварки В производстве и строительстве ключевым фактором безопасности и качества является строгое соблюдение технологических процессов. Особенно это актуально для сварочных работ на объектах повышенной опасности, где малейшее отклонение от нормы может приве...

10:07, 10 Янв Искусственный интеллект переоценивает интеллект людей Ученые из НИУ ВШЭ обнаружили, что современные модели ИИ, включая ChatGPT и Claude, склонны переоценивать рациональность своих противников-людей — будь то студенты первого курса или опытные ученые — в стратегических играх, таких как кейнсианский конк...

13:36, 18 Дек Матрица судьбы как зеркало жизни и скрытых возможностей Интерес к самопознанию всегда был частью человеческой природы. В разные эпохи люди искали ответы в философии, религии и науке, а сегодня всё чаще обращаются к нумерологии. Одним из самых глубоких и наглядных инструментов считается Матрица судьбы на ...

20:07, 26 Авг Искусственный интеллект в маркетинге Если вы представляете себе рекламу, созданную искусственным интеллектом, скучной и роботизированной, приготовьтесь к приятному сюрпризу. Тексты, созданные ИИ, не просто показывают хорошие результаты. Во многих случаях они достигают вдвое большего ко...

12:07, 28 Авг Искусственный интеллект на орбите Земли Искусственный интеллект открывает перед человечеством уникальные перспективы в решении сложнейших задач на орбите Земли, а космос становится вычислительной инфраструктурой. Уже сегодня нейросети оптимизируют работу исследовательских зондов, продлева...

11:07, 01 Сен Новый Porsche Macan получит искусственный интеллект Компания Porsche анонсировала обновление электрического кроссовера Macan, которое выйдет весной 2026 года. Основные изменения затронут цифровые сервисы, функции помощи водителю и системы взаимодействия с автомобилем. Цифровые ключи и новые технологи...

00:07, 09 Июл Искусственный интеллект в поисках внеземной жизни ошибся в 100% Учёные показали, что нейросеть, почти идеально распознававшая признаки жизни, полностью теряла точность после небольших изменений данныхУчёные из Университета штата Мичиган выяснили, что современные модели искусственного интеллекта могут оказаться к...

21:07, 20 Сен Искусственный интеллект создал вирусы, убивающие бактерии Группа учёных из Стэнфордского университета и некоммерческого института Arc Institute в Пало-Альто (Калифорния) сообщила о создании новых генетических кодов для вирусов при помощи искусственного интеллекта. Несколько из этих вирусов успешно реплицир...

03:07, 12 Май Минздрав РФ внедряет искусственный интеллект в систему здравоохранения Российская система здравоохранения вступает в новую эру. С 2026 года Министерство здравоохранения РФ запустило масштабную программу внедрения технологий искусственного интеллекта, охватывающую как диагностику, так и административные процессы. По оце...

19:07, 07 Дек Искусственный интеллект помогает добывать уран в России Ученые Северского технологического института НИЯУ МИФИ разработали не имеющую аналогов систему поддержки принятия решений с искусственным интеллектом для планирования проведения ремонтно-восстановительных работ на технологических скважинах полигонов...

15:07, 25 Фев Вложения США в искусственный интеллект беспрецедентны в истории человечества Тихая война за реальность: почему ИИ — это уже не следующий «Аполлон», а нечто совсем иное. Вложения США в искусственный интеллект беспрецедентны как в истории страны, так и в истории человечества. В сравнении с ними меркнет и «манхэттенский пр...

12:07, 15 Мар Зачем нужен аппендикс и почему его зря считали бесполезным Аппендикс: пережиток прошлого и бесполезный орган или всё же он нам нужен? Источник изображения: ausmed.com.au Многие из нас слышали, что аппендикс — бесполезный орган, доставшийся нам от далёких предков. Его удаляют при малейшем подозрении на воспа...

18:07, 30 Апр Искусственный интеллект обошёлся Uber дороже живых сотрудников Экономика нейросетей столкнулась с неожиданным препятствием: стоимость токенов. Технический директор Uber уже потратил весь годовой бюджет на ИИ. Компании по всему миру, соревнующиеся во внедрении искусственного интеллекта, столкнулись с отрезвляюще...

05:07, 12 Июл США начали испытывать искусственный интеллект на действующем ядерном реакторе Этот реактор был построен в 1962 годуВ США стартовал новый этап испытаний на исследовательском ядерном реакторе Purdue University Reactor Number One (PUR-1). Инженеры Университета Пердью впервые используют действующую ядерную установку для проверки ...

23:07, 24 Авг Эксперт: «Искусственный интеллект станет лидером по фейковым новостям» Фейковые видео становятся более реальными, а личная информация менее защищённой. В век цифровых технологий становится всё сложнее защитить персональную информацию, а вскоре и вовсе можно будет стать случайной жертвой недостоверной новости или ложных...

22:07, 02 Июл Project Aion — экспериментальная ОС от Microsoft с акцентом на искусственный интеллект Несколько лет назад Microsoft экспериментировала с созданием специальной операционной системы, заточенной на работу с искусственным интеллектом. Это стало известно благодаря утёкшему видео на Discord-сервере BetaWiki. Источники портала Windows Centr...

21:07, 18 Фев Цены на оптоволокно стремительно растут из-за спроса на искусственный интеллект Производственные мощности по выпуску волокна достигли своего предела из-за роста продаж искусственного интеллекта и военных беспилотников, и цены стремительно растут. Бум развития инфраструктуры искусственного интеллекта приводит не только к росту ц...

13:07, 08 Июл Американские компании переключаются на китайский искусственный интеллект — так дешевле Китайские ИИ-модели более выгодны по соотношению цены и производительностиКитайские ИИ-модели стремительно набирают популярность среди американских компаний благодаря сочетанию высокой производительности и значительно более низкой стоимости. По мере...

20:07, 20 Май Машина видит всё: искусственный интеллект - новый враг преступности Цифровой мозг перестал быть фантастикой и превратился в главного полицейского страны. На форуме ЦИПР-2026 генеральный директор NtechLab Алексей Паламарчук озвучил впечатляющую статистику: видеоаналитика на базе искусственного интеллекта помогла раск...

20:07, 24 Мар Поколение Z ведет рост покупок через искусственный интеллект Поколение Z становится ключевым драйвером роста онлайн-покупок с использованием искусственного интеллекта. Об этом сообщает Mediapost со ссылкой на исследование компании Skai. По данным аналитиков, запросы на товары через ИИ растут быстрее других ка...

17:07, 10 Апр Искусственный интеллект научит будущих педиатров общаться с пациентами В Сеченовском Университете продолжают совершенствовать облачную платформу «Виртуальный пациент», которая позволяет моделировать клинические случаи на основе реальных историй болезни и симулировать обследования в безопасной цифровой среде. В систему ...

23:07, 05 Июн Искусственный интеллект в бизнесе: как нейросети помогают увеличивать прибыль компании Внедрение искусственного интеллекта перестало быть прерогативой исключительно крупных IT-корпораций с многомиллионными бюджетами. Сегодня нейросети и алгоритмы машинного обучения активно используются малым и средним бизнесом для автоматизации рутины...

12:07, 09 Июл Искусственный интеллект споткнулся о Луну — карты кратеров пришлось перепроверять Искусственный интеллект, который должен был освободить планетологов от рутинного подсчета тысяч лунных кратеров, оказался склонен к серьезным ошибкам. Новое исследование показало, что существующие алгоритмы машинного зрения часто выдают желаемое за ...

01:07, 26 Мар Китайский технологический гигант Tencent делает ставку на искусственный интеллект Президент китайской технологической компании Tencent заявил в среду, что компания хочет внедрить искусственный интеллект в свое приложение для социальных сетей WeChat. Этот шаг может изменить то, как сотни миллионов пользователей взаимодействуют с п...

03:07, 12 Май Государство и бизнес проверяют искусственный интеллект на профпригодность, этичность и лояльность К 2026 году искусственный интеллект перестал быть просто модным словом из пресс-релизов технологических компаний. Он принимает решения о выдаче кредитов, фильтрует резюме соискателей, ставит медицинские диагнозы и управляет беспилотным транспортом. ...

01:07, 05 Окт Bakcell стал ключевым партнером конференции «Инновации и искусственный интеллект» Лидер в сфере инноваций Bakcell выступил главным партнером конференции «Инновации и искусственный интеллект», организованной Американской торговой палатой в Азербайджане (AmCham). Мероприятие объединило представителей государственных структур, между...

03:07, 02 Июн В Сибири создали искусственный интеллект, предсказывающий землетрясения за сутки до толчка Специалисты Института вычислительной математики и математической геофизики Сибирского отделения РАН в Новосибирске представили систему глубокого машинного обучения, способную прогнозировать сейсмические события средней и высокой магнитуды с беспреце...

10:07, 25 Май «Эра агентивного ИИ»: технологические гиганты обосновывают массовые увольнения переходом на искусственный интеллект Руководители крупнейших корпораций меняют риторику при сокращении штата, всё чаще ссылаясь на необходимость перераспределения ресурсов в пользу ИИ-проектовВ уведомлениях об увольнениях, которые всё чаще рассылают своим сотрудникам технологические ко...

14:07, 23 Дек Термоядерный синтез, Трамп и искусственный интеллект: рискованная ставка на будущее энергетики Слияние Trump Media and Technology Group с компанией TAE Technology, занимающейся термоядерным синтезом, вновь поднимает вопрос о роли термоядерного синтеза в дискуссии об энергопотреблении центров обработки данных для искусственного интеллекта. Сли...

06:07, 20 Янв Искусственный интеллект изучают как мозг: новый этап в понимании «чёрных ящиков» Стремительное распространение искусственного интеллекта (ИИ) во всех сферах жизни, от медицины до религии, вызывает всё больше вопросов о принципах его работы. Даже эксперты в области ИИ признают, что внутренние процессы, происходящие в этих «...

22:07, 17 Сен Фонд Тимура Турлова показал, как искусственный интеллект помогает с кредитами и страховкой В Казахстане появился новый дискуссионный клуб, посвящённый искусственному интеллекту (ИИ). Его инициатором стала финансово-технологическая корпорация Freedom Holding, основанная Тимуром Турловым. Площадка под названием Freedom AI Talk призвана обсу...

12:07, 15 Мар Как Голливуд использует искусственный интеллект в кино: зрители этого даже не замечают Как используют ИИ в Голливуде: не только эффекты, но и аналитика, маркетинг, деэйджинг, обработка голоса и постпродакшн. Ещё десять лет назад искусственный интеллект в кино считался чем-то из области экспериментов. Сегодня же он незаметно работает п...

11:07, 04 Сен Путин назвал цифровизацию и искусственный интеллект главным трендом будущего России Президент России Владимир Путин подчеркнул важность развития цифровых технологий и искусственного интеллекта, отметив, что эти направления определяют будущее страны. Президент России Владимир Путин в ходе встречи с курсантами центра «Воин&raqu...

18:07, 26 Ноя Искусственный интеллект помог «Газпромнефть-СМ» создать масла для новых китайских автомобилей «Газпромнефть – смазочные материалы» выпустила полностью синтетические трансмиссионные масла для китайских автомобилей нового поколения. Формулы масел G-Box CVT LV и G-Box DCT LV были созданы собственном Научно-исследовательском центре компании с ис...

16:07, 05 Май Искусственный интеллект решил сложнейшую «обратную задачу» математики и займется раком Ученые из университета создали метод «сглаживающих слоев», который впервые позволяет ИИ эффективно решать обратные инженерные задачи, не поддававшиеся решению десятилетиями. Прорыв, способный изменить методы прогнозирования климата, поиска лекарств ...

23:07, 02 Фев Регистрация на стипендиальную программу «Инновации и искусственный интеллект» продолжается — к вниманию молодежи Стипендиальная программа, реализуемая в рамках совместного партнёрства лидера инноваций Bakcell и Фонда молодёжи Азербайджанской Республики, вызывает большой интерес среди молодёжи. На программу, направленную на развитие инноваций, искусственного ин...

05:07, 23 Фев Искусственный интеллект анализирует клинические записи для прогнозирования рака толстой кишки У людей с язвенным колитом (ЯК), хроническим воспалительным заболеванием кишечника, вероятность развития колоректального рака в четыре раза выше, чем у населения в целом. Дисплазия низкой степени (ДНС) — аномальные или предраковые поражения — может ...

03:07, 03 Ноя ИИ-психолог: как искусственный интеллект меняет психологическую поддержку и чего ожидать в будущем Искусственный интеллект (ИИ) всё активнее входит в сферу психологической помощи: от автоматизированных чат-ботов для первичной поддержки до систем, помогающих клиницистам анализировать данные пациентов. В этой статье мы подробно рассмотрим, что тако...

22:07, 02 Дек Искусственный интеллект в жизни детей: рекомендации «Лаборатории Касперского» для ответственного и безопасного использования Родители всё чаще рассматривают использование нейросетей детьми не как угрозу, а как естественную часть современного обучения и важный навык будущего. Искусственный интеллект перестаёт быть только источником развлечения — он помогает школьникам иска...

03:07, 23 Окт