Цукерберг приврал: самообучающийся ИИ — это не то, о чём вы подумали

Meta* объявила о первых результатах работы над искусственным интеллектом (ИИ), который способен самостоятельно улучшать себя. Это заявление вызвало интерес, но пока неясно, что именно подразумевается под термином «самоулучшение». Скорее всего, это часть стратегии компании, направленной на укрепление позиций в гонке за суперинтеллект — ИИ, превосходящий человеческие способности. Руководитель Лаборатории искусственного интеллекта Школы управления СКОЛКОВО Александр Диденко рассказал, что такие громкие заявления часто носят пиар-характер, сигнализируя акционерам и конкурентам о смене приоритетов компании.По словам Диденко, работа нейронных сетей делится на два этапа: обучение и ответы на запросы пользователей. На этапе обучения сложная программа, называемая пайплайном, анализирует данные и формирует внутренние параметры сети, или «веса». Это дорогостоящий процесс, требующий экспериментов для оптимизации. Когда сеть отвечает на запросы, она использует уже готовые параметры, не меняя их. Некоторые эксперты считают, что способность ИИ анализировать запрос перед ответом уже можно назвать самоулучшением, но это лишь формальность. Истинное самоулучшение подразумевает, что ИИ сам разрабатывает новые версии своих программ, улучшает данные и даже проектирует свою архитектуру. Человек при этом задает только общие цели. Meta* уже публикует научные статьи, в которых описываются шаги в этом направлении: от автоматической генерации кода до улучшения процессов обучения без участия человека. Однако полноценной системы, объединяющей эти разработки, пока нет. Имеющиеся наработки позволяют говорить о потенциале, но не о готовом решении. Создание суперинтеллекта сталкивается с серьезными ограничениями. Нейронные сети не могут быть полностью автономными — их цели всегда задаются человеком. Интересно, что языковые задачи, которые люди считают сложными, для ИИ оказываются проще, чем интуитивные понятия. Например, многие модели не понимают простых физических явлений. Нейронные сети на сегодняшний день соматически изолированы от физической реальности. Если вы спросите большинство нейронок о том, почему нельзя есть суп под дождем, большинство ответят что-то про перспективу простудиться, проигнорировав простой факт что под дождем суп будет растворяться водой и станет невкусным. Александр Диденко Руководитель Лаборатории искусственного интеллекта Школы управления СКОЛКОВО Ещё одна проблема — сложность интеграции различных ценностных систем в ИИ. По результатам исследований, разные ИИ обладают разными системами ценностей. Есть и сложности в интеграции в ИИ разнообразных ценностных систем. Наши исследования показывают, что различные ИИ обладают различными системами ценностей — а «универсальный» сверхинтеллект, который обладает всеми ценностями одновременно, на текущем уровне технологий невозможен. Александр Диденко Руководитель Лаборатории искусственного интеллекта Школы управления СКОЛКОВО Meta* также пересматривает подход к открытости. Если раньше компания делилась своими моделями, то теперь она склоняется к закрытым разработкам. Это связано с возможными рисками, которые могут возникнуть при создании мощных ИИ-систем. Компания подчеркивает необходимость ответственного подхода к таким технологиям. Говорить об угрозах от полностью самообучающихся сверхчеловеческих ИИ сейчас преждевременно. Недавние скандалы, например, с исследованием компании Anthropic, где система якобы начала шантажировать пользователя, скорее относятся к продуманным PR-акциям, чем к реальной опасности. Апокалиптические страшилки в стиле «Терминатора» — это, скорее, проекция страхов человечества о том, что оно само себя в какой то момент разрушит, и не от того, что стало слишком много искусственного интеллекта, а от того, что оказалось слишком мало естественного интеллекта, и этики, к нему впридачу. Александр Диденко Руководитель Лаборатории искусственного интеллекта Школы управления СКОЛКОВО Таким образом, разговоры о самообучающемся ИИ — это скорее попытка привлечь внимание и заявить о серьёзных исследованиях. Но настоящая реализация таких систем требует ещё много времени и усилий, а текущие технологии далеки от фантастических образов суперинтеллекта. * принадлежит компании Meta, организация признана экстремистской, её деятельность запрещена на территории России...

Сообщает www.ferra.ru

Новость из рубрики: Технологии, Наука

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

03:07, 15 Окт Самая сильная мышца в теле человека — не та, о которой вы подумали Самые сильные мышцы человека находятся не на руках. Кадр из фильма «Хищник» Когда вы открываете тугую банку, сжимаете чемодан перед отпуском или просто смеетесь до слез, ваши мышцы работают без остановки. Одни поднимают, другие тянут, третьи двигают...

Семак про 1:2 с Родиной: Удачный 1-й тайм сыграл с Зенитом злую шутку. Подумали, что 2-й пройдет по такому же сценарию, но одна ошибка и игра поменя 02:07, 10 Авг Семак про 1:2 с «Родиной»: «Удачный 1-й тайм сыграл с «Зенитом» злую шутку. Подумали, что 2-й пройдет по такому же сценарию, но одна ошибка – и игра поменялась. Мы свалились на простые передачи» Сергей Семак объяснил, почему «Зенит» не справился с «Родиной» (1:2) в 3-м туре РПЛ. «После такого матча, после неудачного результата и домашнего поражения (давно не проигрывали) – конечно, разочарование. Если в первом тайме смотрелись хорошо и сопе...

14:14, 10 Дек Разработка технической карты сварки В производстве и строительстве ключевым фактором безопасности и качества является строгое соблюдение технологических процессов. Особенно это актуально для сварочных работ на объектах повышенной опасности, где малейшее отклонение от нормы может приве...

21:07, 21 Сен Цукерберг так и не смог принять видеозвонок на очки Ray-Ban Display Технический директор компании *Meta Эндрю Босворт поделился информацией о технических проблемах, возникших при демонстрации новых «умных» очков на конференции Meta Connect.В ходе презентации, состоявшейся в среду, глава Meta Марк Цукерберг представи...

13:36, 18 Дек Матрица судьбы как зеркало жизни и скрытых возможностей Интерес к самопознанию всегда был частью человеческой природы. В разные эпохи люди искали ответы в философии, религии и науке, а сегодня всё чаще обращаются к нумерологии. Одним из самых глубоких и наглядных инструментов считается Матрица судьбы на ...

16:07, 21 Авг Марк Цукерберг купил старинный замок в Ирландии Основатель Facebook* Марк Цукерберг вместе с женой Присциллой Чан приобрели построенный в 1827 году замок Странкалли-Касл, расположенный в графстве Уотерфорд на юго-востоке Ирландии. Вместе с замком они выкупили прилегающее поместье площадью около 1...

Цукерберг бросил вызов идее ИИ под контролем избранных 09:07, 11 Авг Цукерберг бросил вызов идее «ИИ под контролем избранных» Meta* работает над созданием персонального «сверхинтеллекта» Марк Цукерберг выступил против сосредоточения технологий искусственного интеллекта в руках отдельных компаний или организаций. Сооснователь Meta* заявил, что будущее ИИ связано прежде всег...

15:07, 13 Июн Цукерберг признался, что Meta* допустила ошибки в перестройке компании под ИИ «Учитывая сложность этих изменений, мы допустили ошибки и почти наверняка допустим еще»Генеральный директор Meta* Марк Цукерберг сообщил сотрудникам, что гигант социальных сетей допустил ошибки в процессе трансформации своей рабочей силы под искусст...

05:07, 07 Май $500 миллионов на ИИ-модели клеток: Цукерберг обещает победить все болезни Biohub (запрещенная в России, террористическая организация), некоммерческая организация Марка Цукерберга и Присциллы Чан (запрещенная в России, террористическая организация), объявила о запуске пятилетней программы с бюджетом в 500 миллионов долларо...

11:07, 28 Авг Цукерберг отказался заменить 60% сотрудников на ИИ. Персонал Meta* взбунтовался Генеральный директор Meta (*деятельность признана экстремистской и запрещена в РФ) Марк Цукерберг отменил план по масштабному сокращению персонала и замене людей системами искусственного интеллекта. Решение приняли за несколько часов до начала массо...

04:07, 30 Июл Миллиардер Марк Цукерберг заявил, что ИИ позволит каждому жить в изобилии 42-летний CEO корпорации Meta* Марк Цукерберг написал открытое письмо о будущем искусственного интеллекта. В тексте один из богатейших людей планеты с состоянием 194 млрд долларов удивляется тому, что дискурс вокруг искусственного интеллекта "полон ...

00:07, 05 Мар Марк Цукерберг купил поместье за 170 млн долларов на острове — "бункере для миллиардеров" Основатель Facebook* Марк Цукерберг завершил сделку по покупке особняка за рекордную для Майами сумму: на острове, который называют "бункером для миллиардеров". Сделка обошлась 41-летнему гендиректору Meta** в 170 млн долларов, сообщает Forbes.Дом, ...

16:07, 06 Май Миллиардер Марк Цукерберг и его жена Присцилла Чан впервые и тайно посетили Met Gala Основатель Facebook* Марк Цукерберг и его жена Присцилла Чан были в числе многочисленных известных гостей на прошедшем Балу Института костюма Met Gala. Супруги тайно посетили гала-вечер, минуя красную дорожку. Фотографиями с мероприятия они поделили...

00:07, 28 Фев Миллиардер Марк Цукерберг и его жена Присцилла посетили показ Prada в Милане 40-летний основатель Facebook* Марк Цукерберг и его 39-летняя супруга Присцилла Чан появились на показе Prada в Милане в рамках Недели моды. Пара разместилась в первом ряду рядом с директором по маркетингу модного дома Лоренцо Бертелли и генеральным...

15:07, 01 Май Цукерберг заявил, что у него нет хрустального шара: глава Meta* не исключает дальнейших сокращений рабочих мест Компания намерена уволить около 10% своих сотрудников 20 маяГенеральный директор Meta* Марк Цукерберг объяснил запланированные сокращения штата увеличением капитальных вложений в искусственный интеллект и не смог исключить дальнейшие увольнения.«В к...

05:07, 12 Авг «Суперинтеллект не должен быть монополией»: Марк Цукерберг опубликовал манифест Meta* о свободной передаче моделей ИИ и учреждает фонд на $1 млрд Глава корпорации выступает против централизованного контроля над искусственным интеллектом, возвращает открытый исходный код и передаёт решение о выпуске алгоритмов совету директоровКомпания Meta* опубликовала 10 августа манифест Марка Цукерберга по...

13:07, 10 Ноя Марк Цукерберг и Джефф Безос с жёнами, Мэрайя Кэри, Пэрис Хилтон посетили "вечеринку года" в честь 70-летия Крис Дженнер Марк Цукерберг с женой Присциллой Чан, Джефф Безос с женой Лорен Санчес, Мэрайя Кэри, Пэрис Хилтон, Опра Уинфри стали гостями масштабном праздновании 70-летия Крис Дженнер, которое уже назвали "вечеринкой года".Со сцены выступал Бруно Марс, именинни...