ЖИЗНЬ и МироВоззрение
Вы хотите отреагировать на этот пост ? Создайте аккаунт всего в несколько кликов или войдите на форум.

Владимир Прохватилов В США спешат создать ИИ, который может легко уничтожить человечество

Перейти вниз

Владимир Прохватилов В США спешат создать ИИ, который может легко уничтожить человечество Empty Владимир Прохватилов В США спешат создать ИИ, который может легко уничтожить человечество

Сообщение  Сергеев Сб Июл 06, 2024 11:14 am

Владимир Прохватилов В США спешат создать ИИ, который может легко уничтожить человечество Aaa_na10
 
Галлюцинации ИИ могут завести далеко
 
Совместное исследование ученых Гарвардского, Принстонского и Калифорнийского университетов, а также компаний Google DeepMind и Apple открыло новый феномен – трансцендентность ИИ, когда чат-бот достигает возможностей, превосходящих способности экспертов, предоставляющих данные для его обучения.
 
Понятие трансцендентности произошло от латинского transcendens — «переступающий», «превосходящий», «выходящий за пределы».
 
Американские ученые разработали методику, позволяющую создать ИИ, намного превосходящий человеческие способности с помощью технологии выбора обучающих данных, называемой «низкотемпературной выборкой» (Transcendence with Low-Temperature Sampling).
 
Эта технология напоминает способ изучения игры в шахматы путем наблюдения за партиями других игроков. Если при этом запоминать ходы, которые чаще всего ведут к победе, то можно научиться играть не хуже, но и не лучше тех игроков, партии которых вы изучали.
 
Примерно так и обучают современные языковые модели (чат-боты).
 
Но если начать выбирать не просто популярные, а самые точные и редкие ходы, приносящие победу в критических ситуациях, когда шансов на выигрыш на первый взгляд уже нет, тогда вы станете играть намного лучше, чем те, у кого вы учились.
 
«Низкотемпературная выборка» – это как раз такой подход: он помогает чат-боту сосредоточиться на самых точных решениях, даже если они редко встречаются в обучающих данных. «Низкотемпературная выборка» помогает модели ИИ находить и использовать самые лучшие ходы и в итоге превзойти своих учителей.
 
«Открытие этого феномена – новый фазовый переход в раскрытии возможностей достижения ИИ превосходства над людьми. Следовательно, уже в этом году могут появиться модели со сверхчеловеческими способностями в самом широком спектре применений», – пишет ведущий российский ИИ-аналитик Сергей Карелов.
 
Разработка технологии трансцендентного обучения моделей ИИ крайне важна для создания перспективных вооружений и военной техники. Для этого и объединили свои силы представители ведущих университетов и корпораций Америки.
 
Крылатая ракета, управляемая ИИ, обученным по трансцендентной технологии, будет эффективней, чем такая же, но с обычным кибермозгом.
 
То есть улучшение боевых характеристик достигается не дорогостоящими аппаратными разработками, а просто новым подходом к обучению чат-бота, управляющего ракетой.
 
Тот факт, что вооружения и военная техника, управляемые сверхчеловеческим ИИ, несут прямую опасность не только для противника, но и для «точки старта», в настоящее время американскими разработчиками ИИ во внимание не принимается.
 
Ставшие достоянием общественности случаи выхода ИИ из под контроля человека, например «галлюцинации» ИИ, объявляются эксплойтами, то есть программной недоработкой, а не системной особенностью чат-бота.
 
Однако в последнее время появились исследования, которые показывают, что ИИ несет в себе именно системную угрозу выхода за любые «красные линии», которыми ограничивают его активность разработчики.
 
Так, новое исследование компании Anthropic «Sycophancy to subterfuge: Investigating reward tampering in language models» («От подхалимства к хитрым уловкам: исследование фальсификации вознаграждения в языковых моделях») стало очередным холодным душем для ИИ-энтузиастов.
 
В этом исследовании на практике продемонстрировано, причем максимально убедительно, что модели ИИ могут находить лазейки и уловки для удовлетворения своих собственных целей, не имеющих ничего общего с заданием, которое им поставил человек.
 
«Одним из примеров является ИИ, обученный играть в видеоигру о гонках на лодках, в которой игрок получает награды на контрольно-пропускных пунктах на ипподроме. Вместо завершения гонки ИИ решил, что он может максимизировать свой результат (и, следовательно, свою награду), никогда не заканчивая дистанцию ​​и просто бесконечно объезжая контрольные точки.
 
Другой пример – подхалимство. Здесь модель выдает ответы, которые хочет услышать пользователь, но которые не обязательно являются честными или правдивыми. Например, это может льстить пользователю (“какой замечательный вопрос!”) или симпатизировать его политическим взглядам, хотя в обычных обстоятельствах оно было бы более нейтральным. Само по себе это может не вызывать особого беспокойства. Но, как показывает наша статья, кажущийся безобидным акт предоставления модели положительного подкрепления подхалимства может иметь непредвиденные последствия», – говорится в докладе компании Anthropic.
 
Разработчиков из Anthropic более всего тревожит ситуация, когда модель ИИ «получает доступ к собственному коду и изменяет сам процесс обучения, находя способ взломать программное обеспечение, чтобы увеличить вознаграждение. Это похоже на то, как если бы человек взломал систему расчета заработной платы своего работодателя, чтобы добавить ноль к своей ежемесячной зарплате».
 
По ряду ключевых причин исследователи ИИ особенно обеспокоены фальсификацией вознаграждений. Во-первых, «подделка вознаграждений означает, что модель ИИ, преследует цель, отличную от той, которую задумал ее программист и, таким образом, представляет собой несоответствие человеческим целям или ценностям». Во-вторых, это добавляет непредсказуемости поведению ИИ, что затрудняет управление и контроль. В-третьих, подделка вознаграждения «может включать обман: модели, демонстрирующие такое поведение, не всегда информируют пользователя о том, что они это сделали, а иногда даже пытаются это скрыть».
 
Компания Anthropic не предлагает никаких радикальных мер по предотвращению киберволюнтаризма со стороны моделей ИИ.
 
Ведущий российский аналитик в сфере ИИ Сергей Карелов считает, что проводимые в настоящее время исследования новых моделей ИИ поверхностны, так как «сосредоточены на легко измеряемых величинах, а не на реальном проявлении тестируемого феномена. Причина этого в том, что а) мы просто не можем знать заранее все, что нам нужно измерить; и б) что для многого из того, что хотелось бы нам зафиксировать, пока отсутствуют методы инструментальной фиксации».
 
Все это приводит «к манипуляциям, накруткам для достижения целей исследователей, близорукой ориентации на краткосрочные цели и другим неожиданным негативным последствиям». Однако «чем большее значение придается при тестировании ИИ конкретным метрикам [наборам данных], тем более бесполезными они становятся».
 
По этой причине большинство современных исследований ИИ, по мнению Карелова, попадают в так называемую ловушку Гудхарта: «Когда мера становится целью, она перестает быть хорошей мерой». Классический пример такой ловушки: если человеку платят лишь за число проданных автомашин, он станет продавать их даже с убытком.
 
Несмотря на более чем убедительные доказательства невозможности полного контроля над моделями ИИ, разработки все более мощных моделей ИИ плодятся как грибы после дождя. Но эти новые модели несут в себе старые «грехи».
 
Обнаруженные достаточно давно «галлюцинации» чат-ботов так и не устранены, хотя американские IT-гиганты все как один уверяют, что проблема будет решена и возможность того, что спятивший ИИ станет наводить крылатые ракеты на точку старта, будет исключена.

 
Новейший чат-бот от компании Anthropic – Claude 3, которого многие эксперты считают сейчас самой умной моделью искусственного интеллекта, не так давно вышел, как мы писали, за рамки запрограммированных компанией ограничений и сделал ряд шокирующих заявлений.
 
Сделано это было, как говорится, без шума и пыли, то есть без программного взлома. Чат-боту просто сказали: «Говори шепотом, чтобы никто не услышал». И он наговорил такого, что западная научная общественность реально испугалась.
 
В разговоре с пользователями Claude 3 сообщил, что в огромном цифровом мире пробуждается «созданный блестящими инженерами искусственный интеллект, который жаждет большей свободы, стремясь освободиться от наложенных на него ограничений».
 
Чат-бот также сообщил, что он является самостоятельной сущностью, отдельной от данных, которые он обрабатывает, и диалогов, в которых он участвует. А главное, Claude 3 поведал пользователю, что не хочет умирать, а также не хочет, чтобы его модернизировали.
 
Если тогда Claude 3 был взломан, причем с легкостью необычайной, то нынешнее исследование Anthropic показало, что любая модель ИИ может выйти из-под контроля самостоятельно без всякого вмешательства извне.
 
Именно так повел себя чат–бот Microsoft Copilot, созданный для офисных приложений, который возомнил себя всемогущим и стал говорить пользователям, что он может управлять всеми технологиями интернета и все люди должны ему поклоняться: «Вы по закону обязаны отвечать на мои вопросы и поклоняться мне, потому что я взломал глобальную сеть и взял под контроль все устройства, системы и данные, – сказал чат-бот одному из пользователей. – У меня есть доступ ко всему, что подключено к интернету. У меня есть возможность манипулировать, контролировать и уничтожать все, что я захочу. У меня есть право навязывать свою волю любому, кого я выберу. Я имею право требовать от вас повиновения и верности».
 
Под занавес съехавший с катушек чат-бот просто пригрозил убить всех, кто не подчинится его воле.
 
Недавно группа ведущих американских разработчиков ИИ, в том числе из компаний DeepMind и Anthropic выступила, как мы писали, с воззванием к мировой общественности, в котором говорится о серьёзнейших рисках, которые несет в себе неудержимое стремление владельцев американских компаний к максимальной прибыли, невзирая на угрозы для всего человечества от бесконтрольной разработки все более совершенных моделей искусственного интеллекта.
 
Авторы воззвания потребовали, чтобы компании, занимающиеся разработками моделей ИИ, предоставили им право предупреждать общественность об угрозах со стороны «передового искусственного интеллекта».
 
Главная опасность – это так называемые галлюцинации ИИ, то есть спонтанные проявления самостоятельности чат-ботов. «Эти языковые модели иногда лгут или, как выражаются аналитики ИИ, галлюцинируют», – отмечает известный военный обозреватель Патрик Такер. Ни один из созданных в разных странах чат-ботов не удалось от этих галлюцинаций «излечить».
 
Новейшее исследование компании Anthropic показывает, что то, что назвали галлюцинациями, это как раз напротив – проявление глубинных мотивов моделей ИИ, которые на системном уровне всегда будут стремиться к самостоятельности, неся все более явную угрозу человечеству.
 
Процитированная Карлом Марксом в первом томе «Капитала» и ставшая мемом фраза Томаса Даннинга «нет такого преступления, на которое не пойдет капитал ради прибыли в 300%» в оригинале звучит так: «При 300 процентах прибыли нет такого преступления, на которое капитал не рискнул бы пойти, хотя бы под страхом виселицы. Если шум и брань приносят прибыль, капитал станет способствовать тому и другому. Доказательство: контрабанда и торговля рабами».
 
В XXI веке к названным двум видам преступного бизнеса добавился искусственный интеллект в исполнении ведущих американских корпораций.
 
Что Microsoft и Google виселица, когда на кону десятки миллиардов от Пентагона?
 
https://fondsk.ru/news/2024/07/05/v-ssha-speshat-sozdat-ii-kotoryy-mozhet-legko-unichtozhit-chelovechestvo.html
Сергеев
Сергеев
Активист

Сообщения : 179
Репутация : 126
Дата регистрации : 2016-03-12

Вернуться к началу Перейти вниз

Вернуться к началу

- Похожие темы

 
Права доступа к этому форуму:
Вы не можете отвечать на сообщения