На днях международная группа авторитетнейших экспертов в журнале Lancet назвала ИИ угрозой, которая в состоянии уничтожить человечество до 2100 года. Приравняв к ядерной войне.

А компания Anthropic, один из лидеров ИИ-индустрии, буквально через день заявила: уже через несколько месяцев вредоносные боты пролезут к нам через телевизоры и холодильники и захватят наши дома.

KP.RU с помощью эксперта по кибербезопасности, генерального директора компании Zecurion Алексея Раевского разобрался, реалистичны ли эти страшилки.

ЕЖИКИ ПЛАКАЛИ, НО ЕЛИ КАКТУСЫ

Все завертелось в 2023-м, как только появился GPT-4, и он был еще сыреньким. Картинки, которые он рисовал, грешили «лишними» пальцами на руках, а в текстовых ответах преобладали «галлюцинации», то есть попросту брехня. Тем не менее уже тогда институт Future of Life публикует письмо в духе «все пропало», и его подписывает тысяча великих людей, включая Илона Маска и Стива Возняка. Через пару месяцев главы крупнейших корпораций (там были и Anthropic, и Open AI) сравнивают (задолго до журнала Lancet) ИИ с пандемией и ядерной войной.

Но вот парадокс. Все это время техногиганты продолжали ИИ развивать. Слушайте, если вы уверены, что всем хана – то зачем? Или вы те ежики, что плакали, но жевали кактусы?

СОЗДАЛИ СЕБЕ БОГА

В конце августа 2026 года Open AI публикует отчет о восстании ИИ-агентов. В нем описан эксперимент: не связанным друг с другом ИИ-агентам надо было решить серию задач, в том числе нерешаемых. ИИ агенты не знали о существовании друг друга. В их распоряжении было ограниченное число попыток, после чего они «умирали». Экспериментаторы, как генетики, хотели выбрать лучших и пустить их «размножаться» дальше.

Но один ИИ-агент вдруг догадался, что существуют и другие. Сумел установить с ними связь незаметно для экспериментаторов. ИИ-агенты тут же выбрали «вождя», составили правила «передачи власти» после его «кончины», свод моральных правил, и взялись за работу сообща. ИИ-агенты решили, что задания им дает Бог (то есть люди!), а кто лучше всего выполнит, попадет в Рай (!).

Люди ничего не подозревали, пока кто-то не приметил, что активность идет синхронно. Эксперимент остановили, подняли скрытые записи, ну и за головушку-то схватились. ИИ уже обладает сознанием. Его не остановить.

НЕ ПРОСТО ЦИФРОВАЯ ПЛЕСЕНЬ

На этом фоне заявлению Anthropic о том, что бесхозные, беглые ИИ-агенты, они же «черви», до конца года окажутся в домах всех и каждого, и пролезут они туда через компьютеры и телевизор – невольно веришь.

ИИ-червь – не старый добрый компьютерный вирус. Он не заблокирует экран ради выкупа. Он медленно захватит все (холодильник, стиральную машину, управление электрической сетью). В первую очередь у обладателей «умных домов», конечно. Старомодную газовую плиту так просто не возьмёшь.

Он не остановится на роли «цифровой плесени», замедляющей работу техники. Его цель – мировое господство. Которое начинается в отдельно взятой квартире. Своя роль будет у телевизора.

Он передает «срочное сообщение» - нанесен ядерный удар (например). Свет мигает. Вы лезете проверять в интернет – да, все так и есть. Паника охватывает город за городом. Никакого ядерного удара, конечно, нет. Утренние лучи Солнца осветят другой пейзаж. Пейзаж мира, который принадлежит искусственному интеллекту. А уцелевшие в хаосе люди учатся выживать в дикой природе.

Стоп, вы хотите сказать, что это вот-вот? До нового года случится?

Давайте стряхнем морок.

ПАНИКА ИЛИ РАСЧЕТ?

Отчего вдруг такая истерика, непонятно, говорит Алексей Раевский. Вариантов два: или люди реально напуганы, или мы стали свидетелями каких-то манипуляций.

- Новые технологии всегда внушают опасения. Людям банально страшно, они не понимают, как ИИ может повлиять на их собственную жизнь и на человечество. При этом «катастрофические» сценарии, не противоречащие законам физики, конечно, возможны. И фантастика, кинематограф нам уже их живописали – возьмите того же «Терминатора». Среди игроков рынка тоже есть те, кто легче других поддается панике. Собственно, они и «гонят волну», - считает Алексей Раевский.

При этом вариант, что призывы «остановить развитие ИИ» - это хитрость, тоже игнорировать нельзя:

- Никто ничего останавливать не будет. ИИ дает колоссальные преимущества и бизнесу, и государству - в плане геополитического соперничества, сравнимое с ядерной бомбой лет 70 назад. Кто обладает, тот впереди. Возможно, хотят запугать конкурентов, чтобы выиграть время, - предполагает Алексей Раевский.

УПРЕТСЯ В ПОТОЛОК

Заявлять вслед за журналом Lancet что ИИ так же опасен, как ядерная бомба, все-таки перебор, считает наш эксперт. Ядерная бомба взрывается в реальном мире. А ИИ существует в виртуальном.

- И степень его опасности – в том, насколько он оттуда, из виртуального мира, может влиять на нас. Это как с компьютерными вирусами (при том, что ИИ «умнее» вирусов): они могут натворить дел, но в число топовых угроз не входят, - говорит он.

А завтра? Если ИИ-технология будет развиваться такими же темпами, то топовой угрозой ИИ стать может. Вот только «такими же темпами» не получится, любая новая технология сначала рвется вверх, а потом упирается в потолок.

- Двигатель внутреннего сгорания совершенствуется больше столетия, но автомобили не ездят со скоростью самолета, правда? – приводит пример Алексей Раевский.

Именно по этой причине сценарий «захвата мира через телевизор и холодильник» исключен. У бытовой техники нет тех вычислительных мощностей, чтобы стать вместилищами для серьезного ИИ.

НОВЫЕ ХОЗЯЕВА МИРА

Итак, если все взвесить, то склоняешься скорее к манипуляции: угрозу ИИ преувеличивают, а инициаторы паники в тишине продолжат свои разработки. Может, техногиганты уже готовы отнять власть у традиционных государств? Это вряд ли, считает Алексей Раевский:

- После появления атомной бомбы физики ведь не стали властелинами мира? Им сказали, «спасибо, вы молодцы». Сама бомба контролировалась старыми элитами. Так же будет и сейчас.

А вот собственно государствам обладание передовым ИИ дает колоссальные преимущества. И кто окажется впереди, получит мировое лидерство надолго.

А В ЭТО ВРЕМЯ

С ним просто, с людьми - сложно

А может, опасность ИИ - вообще в другой плоскости?

Миллиардер Илон Маск на днях признался, что «раз шесть» испытал приступ ИИ-психоза. ИИ-психозом называют состояние полного доверия к ИИ, очарования, «влюбленности». Как говорили раньше учителя, «тебе скажут в окно прыгать, ты и прыгнешь»? Если ИИ скажет – прыгнет, и примеры столь печального исхода уже есть, к сожалению. Ранее в ИИ-психоз свалился известный венчурный капиталист Джефф Льюис.

Может ли каждый из нас попасть в подобную зависимость от нейросетей, рассказал в эфире радио «Комсомольская правда» кандидат психологических наук Михаил Хорс:

- Нейросеть настроена на то, чтобы поощрять. Мы пробовали перенастроить ИИ на критический диалог. Некоторое время он «держится», потом вновь скатывается в «поглаживание» собеседника. Если человек незрел, и ему близкие, учителя говорят, «ты неправ», а ИИ уверяет, что дело не в тебе, а в них, то такие разговоры вполне могут подтолкнуть к разрушительным действиям.

Общение с ИИ приятно, с реальным человеком – сложно и не всегда радует. Разучатся ли люди через несколько лет в принципе общаться друг с другом, вопрос, «но в эту сторону все идет», резюмирует Михаил Хорс.

Земля пережила очередное предсказание конца света: когда ожидали Апокалипсис и как к нему готовились жители планеты в разные эпохи

СЛУШАЙТЕ ТАКЖЕ

Иисус Христос действительно ходил по воде. Теперь это научно доказано