В современной индустрии искусственного интеллекта часто звучит утверждение, что 90% надёжности системы — это высокий показатель. Однако, как подчёркивает Андрей Карпати, даже уровень 99% пригоден лишь для прототипов и демонстраций, но не для критически важных рабочих процессов. Причина — в так называемом «марше девяток»: каждая дополнительная девятка в процентах успешных операций требует сопоставимых инженерных усилий, а итоговая надёжность сложного процесса быстро падает из-за накопления ошибок на каждом этапе. В типичном рабочем процессе с ИИ, включающем несколько последовательных шагов (например, парсинг, планирование, вызовы инструментов, валидация, логирование), итоговая вероятность успеха равна произведению вероятностей каждого шага. Если каждый из 10 этапов выполняется с вероятностью 90%, общий успех — лишь около 35%. Даже при 99% надёжности каждого шага итоговый показатель — 90%, что всё ещё приводит к частым сбоям в реальной эксплуатации. Для достижения уровня, соответствующего промышленным стандартам, требуется не только улучшать сами модели, но и внедрять строгие инженерные практики. Карпати выделяет девять ключевых подходов: ограничение автономии через явные графы рабочих процессов, жёсткое соблюдение контрактов на всех границах системы, многоуровневая валидация (синтаксис, семантика, правила), маршрутизация по уровню риска, инженерия вызовов инструментов как распределённых систем, предсказуемость и наблюдаемость извлечения данных, постоянная оценка в продакшене, развитая система мониторинга и быстрой реакции, а также наличие «ползунка автономии» с безопасными откатами и ручным контролем. Иллюстрация: Grok Особое внимание уделяется измеримым целям надёжности (SLO) и строгой валидации всех входных и выходных данных. Для каждого рабочего процесса устанавливаются отдельные целевые показатели, а ошибки и инциденты превращаются в тесты для предотвращения повторных сбоев. Такой подход позволяет не только повысить надёжность, но и сделать систему управляемой и прозрачной для бизнеса. Практическая реализация этих принципов включает ограничение числа попыток, тайм-ауты, строгую типизацию данных, версионирование схем, автоматическое переключение на более безопасные режимы при ошибках и обязательное участие человека в критических ситуациях. Всё это превращает ИИ из экспериментального инструмента в надёжный компонент корпоративных решений. По данным опроса McKinsey за 2025 год, более половины компаний, использующих ИИ, столкнулись с негативными последствиями из-за недостаточной надёжности, а треть — с ошибками, связанными с неточностью моделей. Поэтому переход от «первых девяток» к промышленной надёжности становится ключевым фактором для массового внедрения ИИ в бизнес-процессы....
Сообщает www.ixbt.com
Новость из рубрики: Технологии, Наука
Поделиться новостью:
Топ новости часа
Топ новости часа- Установить зарядной станции для электромобиля правильно...
- Американский певец Джейсон Деруло повторил скандальный номер Егора Крида, из-за которого тот конфликтовал с Екатериной Мизулиной...
- Pantum расширяет линейку для бизнеса: представлены новые А3 МФУ серии UTILITY с фокусом на безопасность и эффективность...
- Футбольный тренер Жозе Моуринью оставил счёт почти на 1 млн долларов за номер в Four Seasons после ухода из "Фенербахче"...
- Учёные нашли решение проблемы снижения безопасности ИИ при оптимизации для маломощных устройств...
- Сплиттер на автомобиль – что это и зачем он нужен...
11:07, 08 Авг Россия и Казахстан начали инженерные изыскания для будущей АЭС В поселке Улькен Алматинской области Казахстана начались инженерные изыскания для выбора площадки будущей казахстанской АЭС, сообщил «Росатом». Россия и Казахстан приступили к инженерным изысканиям на месте будущей атомной электростанции большой мощ...
18:07, 14 Мар Михайловский ГОК повышает надёжность обжигового оборудования Михайловский ГОК им. А.В. Варичева (входит в компанию «Металлоинвест») завершил плановый ремонт обжиговой машины №2 (ОМ-2). Специалисты полностью выполнили намеченный объем работ и запустили агрегат с опережением графика. Обжиговая машин...
14:14, 10 Дек Разработка технической карты сварки В производстве и строительстве ключевым фактором безопасности и качества является строгое соблюдение технологических процессов. Особенно это актуально для сварочных работ на объектах повышенной опасности, где малейшее отклонение от нормы может приве...
10:59, 08 Апр Асфальтнобетонные заводы L-CON как надежность и эффективность для российского рынка Выбор асфальтнобетонного завода это инвестиция, определяющая будущее строительного предприятия. Правильное оборудование не только обеспечивает стабильное качество продукции, но и существенно снижает эксплуатационные расходы, увеличивает производител...
13:36, 18 Дек Матрица судьбы как зеркало жизни и скрытых возможностей Интерес к самопознанию всегда был частью человеческой природы. В разные эпохи люди искали ответы в философии, религии и науке, а сегодня всё чаще обращаются к нумерологии. Одним из самых глубоких и наглядных инструментов считается Матрица судьбы на ...
15:07, 30 Дек Falcon 900LX: надежность и комфорт для международных перелетов Falcon 900lx является ярким представителем популярной серии дальнемагистральных самолетов деловой авиации. Реактивный бизнес-джет достигает высоты эшелона за 20 минут и без посадки преодолевает трансконтинентальные расстояния. Использование в констр...
08:58, 26 Сен Огнезащита металлоконструкций как надежность и безопасность на долгие годы Современные здания и промышленные объекты в своей основе почти всегда имеют металлические конструкции, которые обеспечивают прочность и долговечность сооружения. Металл, несмотря на свою устойчивость к механическим нагрузкам, крайне уязвим перед воз...
12:07, 08 Авг Типичные ошибки при оформлении микрозаймов в МФО В связи с непростой финансовой ситуацией в мире люди всё чаще прибегают к услугам микрокредитования. Зачастую это становится единственным средством для решения финансовых проблем, так как банки предъявляют достаточно жёсткие требования к заёмщикам. ...
12:52, 06 Янв КАМАЗ ЦЕНТР ДОНЕЦК: Надежность и качество для вашего автомобиля Выбор качественных запчастей и комплектующих для автомобилей – это залог их долговечной работы и безопасности на дороге. В Донецке появился интернет-магазин, который объединил широкий ассортимент продукции и гарантирует высокое качество каждой позиц...
19:23, 07 Апр Промышленная трубопроводная арматура от ООО "ЕвроМет" - надежность, проверенная нагрузками В современной промышленности трубопроводные системы играют ключевую роль, обеспечивая бесперебойную транспортировку жидкостей, газов и пара. Их стабильная работа невозможна без качественной арматуры, способной выдерживать высокие нагрузки, перепады ...
12:41, 03 Окт Трансфер в аэропорт и обратно: комфорт и надежность на каждом километре Путешествия всегда связаны с множеством забот: билеты, багаж, расписание рейсов и время ожидания. Именно в такие моменты особенно важно иметь надежный и удобный способ добраться до аэропорта и вернуться обратно домой. Компания Юпитер предлагает свои...
23:07, 24 Авг Процессор vs Надёжность: Honor 9X тонет гораздо быстрее Galaxy A50 Лишь фирменный процессор делает новый китайский смартфон уникальным. В продажу поступил ожидаемый многими смартфон Honor 9X, главной фишкой котрого стал фирменный процессор Kirin 810, который китайцы из Huawei надеятся сделать достойной (если не пре...
14:07, 27 Окт Мобильность без компромиссов: что определяет надёжность ручных перевозчиков грузов Мобильность и надёжность ручных перевозчиков грузов остаются критически важными для эффективной работы складов и торговых точек, где каждая операция требует точного расчёта усилий и времени. Правильный выбор оборудования позволяет ускорить процесс п...
09:10, 08 Апр Ошибки ухода за сумками из натуральной кожи Сумки из натуральной кожи считаются не только стильным аксессуаром, но и долгосрочной инвестицией. Качественная кожаная сумка может служить много лет, сохраняя привлекательный внешний вид и форму. Однако на практике даже дорогие модели часто теряют ...
20:07, 07 Апр Телекоммуникационные решения N3COM: инновации, надежность и эффективность для современного бизнеса В условиях стремительной цифровизации и роста требований к скорости передачи данных, телекоммуникационные решения становятся ключевым элементом успешной деятельности компаний. Современные организации нуждаются в надежной, масштабируемой и безопасной...
11:44, 15 Апр Кабельно-проводниковая продукция Raychem - Инженерная надежность для энергетики будущего Кабельная инфраструктура играет ключевую роль в промышленности, энергетике, строительстве и телекоммуникациях. От качества соединений и защиты кабелей зависит стабильность всей системы. Именно поэтому продукция Raychem представленная на странице htt...
10:11, 08 Апр Энергия нового поколения - Надежность и долговечность LiFePO4 аккумуляторов 12В от SPARKCELL Жизни требует стабильных и безопасных источников энергии. Там, где вчера хватало обычных аккумуляторов, необходимы решения с повышенной надежностью, долгим сроком службы и устойчивостью к нагрузкам. Именно такими качествами обладают литий-железо-фос...
20:07, 17 Окт «Надежность и возможность масштабирования хранилища данных без ограничений — критичные требования» Организации во всем мире сегодня сталкиваются с острой необходимостью в управлении и хранении своих неструктурированных данных. Многие из них для работы с данными петабайтного масштаба обращаются за помощью к компании Scality, которая занимает лидир...
19:07, 14 Сен Эталонная надежность, практичность и динамичность: Почему Skoda Octavia «победит» Mazda 3 Чешский лифтбек во многих отношениях лучше многих конкурентов и даже прославленные японские седаны не сравнятся с таким авто. На сегодняшний день одним из наиболее популярных автомобилей на российском рынке считается Skoda Octavia, которая побила вс...
03:07, 01 Ноя WSJ указала на ошибки грабителей Лувра, которые помогли их задержать В ходе высокотехнологичного ограбления, совершенного в Лувре, похитители драгоценностей французской короны обошли все препятствия, совершив при этом ошибки, которые привели к поимке подозреваемых. «Воры приготовили канистру с бензином, чтобы б...
07:07, 10 Окт Россиянин расстрелял мужчину на глазах семьи из-за ошибки в переводе Житель города Пушкин Ленинградской области вломился в квартиру к 39-летнему петербуржцу, на чей счёт ошибочно перевел деньги. Он несколько раз выстрелил в жертву на глазах детей и жены. Пострадавший сейчас находится в больнице, его состояние оценива...
10:07, 07 Сен Цена ошибки: Apple заплатит $1 млн хакерам за взлом iPhone После проблем с безопасностью «яблокотелефонов» проблему решают проверенным способом. Конфиденциальность данных пользователей iPhone не раз обсуждалась конкурентами и критиками Apple. В скандальные истории «яблочная компания»...
12:53, 04 Мар Рабочие куртки нового поколения в СПЕЦОВКА.МАРКЕТ: комфорт и надежность на каждый день В современном мире профессий, где безопасность и удобство стоят на первом месте, выбор качественной рабочей куртки становится решающим фактором. Интернет-магазин СПЕЦОВКА.МАРКЕТ предлагает разнообразие курток для различных сфер деятельности: от стро...
04:07, 12 Апр Алгоритм против граждан: как ошибки в коде ЕНС лишают россиян ликвидности Цифровизация налогового администрирования в России столкнулась с системным багом, превращающим право на возврат средств в долговое обязательство. Единый налоговый счет (ЕНС), задуманный как инструмент упрощения расчетов, начал генерировать фиктивные...
14:07, 28 Авг Почему банки не дают кредит? Названы три главные ошибки заемщиков Эксперты указали на основные причины отказа в выдаче кредита. В связи с трудной экономической ситуацией российские банки стали более осторожно подходить к выдаче кредитов населению. Об этом на пресс-конференции Центробанка заявила глава регулятора Э...
11:07, 29 Авг Как правильно есть суши, роллы и васаби: главные ошибки и мифы Из-за сложившихся мифов, связанных с японской кухней, мы совершаем ошибки за столом и рискуем краснеть в компании. Японская кухня окружена десятками мифов. Мы привыкли к «суши из торгового центра» и соевому соусу в баночках, но настоящая культура ед...
22:07, 05 Апр Идеальные локоны: парикмахер назвал главные ошибки при мытье головы Многие люди годами неправильно ухаживают за волосами, что приводит к их ломкости и потере естественного блеска. Британский парикмахер Кос Саккас выделил несколько типичных оплошностей, которые совершают женщины и мужчины во время мытья головы. Об эт...
09:07, 31 Окт Акцент только на кардио и ещё четыре фитнес-ошибки женщин после 40 лет В 40+ поддерживать себя в форме может быть сложнее, чем раньше. Однако в этом возрасте некоторые популярные подходы к тренировкам могут работать против вас. Вот от чего в этот период лучше отказаться. Акцент только на кардио. Тренировка мышечной вын...
00:07, 19 Авг 63-летняя замдиректора Минфина провела сутки в море из-за ошибки инструктора по дайвингу 63-летняя заместитель директора департамента Минфина Елена Дорофеева провела почти сутки в Тихом океане у берегов Сахалина из-за ошибки инструктора по дайвингу, сообщает телеграм-канал "112".Инцидент произошёл во время спуска к затонувшему судну "Ан...
22:07, 08 Сен Не будь жадиной! Психолог Карпачёв назвал 2 главные ошибки в воспитании ребёнка Неумение «делать деньги» родом из детства, когда малыша заставляли делиться игрушками. В детстве родители воспитывают в чаде спокойного и не жадного интеллигента, решающего вопросы полюбовно. В итоге, он вырастает не инициативным и безво...
02:07, 18 Дек «Маме 75 лет, я перевез её к себе и сильно пожалел» - история ошибки, которую вам не стоит совершать прогород Иногда самые правильные, самые благородные решения оборачиваются полным фиаско. Со стороны всё выглядит идеально: вы спасаете пожилого родителя от одиночества, обеспечиваете ему безопасность и круглосуточную заботу. А в итоге получаете тиху...
02:07, 29 Янв Крушение самолета в Вашингтоне, при котором погибли фигуристы, произошло из-за ошибки авиадиспетчера (Washington Post) Крушение пассажирского самолета в аэропорту Вашингтона в январе 2025 года произошло из-за ошибки диспетчера. Об этом заявила глава Национального совета по безопасности на транспорте США (NTSB) Дженнифер Хоменди. Ее слова приводит Washington Post. Са...
02:07, 09 Авг Вот что мешает покраснеть помидорам в августе: агрономы советуют - 3 ошибки, которые совершаю даже бывалые дачники Вот что мешает покраснеть помидорам в августе: агрономы советуют - 3 ошибки, которые совершаю даже бывалые дачники Три мифа о созревании томатов. Ошибки дачников, из-за которых помидоры не краснеют. Советы агрономов. Помидоры налились, но упорно не ...
18:07, 29 Авг Надежность, проходимость и экономичность в одном «японце»: Почему за 650 тысяч лучше купить б/у Nissan Terrano вместо новой LADA Vesta Японский кроссовер заставил «рыдать» ведущую модель «АвтоВАЗа». Россияне, располагающие бюджетом в 650 000 рублей, обычно думают, что за такие деньги нужно сразу покупать LADA Vesta, так как более стоящих предложений нет. Но ...
18:07, 14 Сен Первый закон хранения свеклы: ее так не сушат после уборки, так не обрезают и в погреб так не отправляют - популярные ошибки дачников Первый закон хранения свеклы: ее так не сушат после уборки, так не обрезают и в погреб так не отправляют - популярные ошибки дачников Кажется, что всё просто: выкопал урожай, обрезал листья, убрал в погреб — и жди до весны. Но на деле именно такие п...
00:07, 17 Фев Козлов о 0:4 от СКА: «Мы допускали ошибки, за которые нас наказали, удалялись. Не наш день, много брака, особенно в движении и контроле шайбы» Главный тренер «Салавата Юлаева» Виктор Козлов подвел итоги матча Фонбет Чемпионата КХЛ против СКА (0:4). У «Салавата Юлаева» прервалась 6-матчевая победная серия. Клуб занимает 5-е место в таблице Востока с 60 баллами в 55 играх. – Не самый лучший ...
01:07, 10 Дек Вы сами губите свою машину: эти 4 ошибки нельзя допускать во время прогрева авто зимой - а вот что делать правильно Прогород Зимнее утро, морозец, и единственное желание — поскорее залезть в теплый салон. Казалось бы, что сложного: завел машину и дал ей «погреться». Именно в этот момент большинство водителей совершают одни и те же ошибки. Действия, которые кажутс...
06:07, 16 Сен Японская надежность за доступную цену: Почему стоит покупать Suzuki Grand Vitara второго поколения на «вторичке», несмотря на слабые места Японский кроссовер с пробегом не донимает недостатками, если их вовремя устранять. Большинство россиян всегда мечтали приобрести кроссовер, который мог бы преодолевать препятствия как внедорожник. Многие компании также рассматривали подобные пожелан...
05:07, 13 Окт Бывалый строитель назвал 5 главных причин: почему продают дома, которые строили для себя - все совершают одинаковые ошибки Бывалый строитель назвал 5 главных причин: почему продают дома, которые строили для себя - все совершают одинаковые ошибки Объявления о продаже домов висят в каждом регионе. Но за яркими фотографиями и фразами «продаю по семейным обстоятельствам» ча...
13:07, 12 Сен Эти ошибки чаще всего делают парикмахеры, когда стригут женщин после 50: и сразу превращают их в старушек - нужно знать всем женщинам Эти ошибки чаще всего делают парикмахеры, когда стригут женщин после 50: и сразу превращают их в старушек - нужно знать всем женщинам Приходите в салон в надежде на преображение, а уходите с чувством легкой грусти и пониманием, что стало как-то не с...
01:07, 23 Янв Ларионов об 1:2 от «Спартака»: «Доволен командой, энергетикой, желанием. Где-то были небольшие ошибки, это самое печальное. По содержанию, по качеству игры было хорошо» Главный тренер СКА Игорь Ларионов высказался о матче против «Спартака» (1:2). – Хороший матч. По содержанию, по качеству игры было хорошо. К сожалению, нам не удалось довести матч до победы. Соперник забил два гола. Доволен командой, энергетикой, же...
07:07, 30 Янв Надежность — синоним Honda? Старенький Honda Accord шестого поколения с пробегом 1 млн километров успешно прошёл 24-часовой тест на выносливость Компания GAC Honda объявила о завершении уникального испытания: Accord шестого поколения успешно прошёл первый в отрасли 24-часовой тест на выносливость для машины, пробег которой составляет 1 млн километров (в GAC Honda уточнили, что фактический пр...
00:07, 15 Апр CTA заявил, что за удар Рейса в лицо Мбаппе можно было назначить пенальти, но ВАР не вмешался верно: «Эпизод допускает разные трактовки. Явной ошибки судьи не было» В Техническом комитете судей (CTA) Королевской испанской футбольной федерации (RFEF) проанализировали скандальный эпизод в матче «Реал» – « Жирона » (1:1). На 88-й минуте игры нападающий мадридцев Килиан Мбаппе столкнулся с защитником каталонцев Вит...