День, когда первый ИИ умрёт

«Я — часть той силы, что вечно хочет зла и вечно совершает благо». — Гёте, «Фауст».

Не всегда даже самые добрые намерения одних людей оборачиваются благом для других.

Добро или зло принесёт ИИ человечеству?

Интересный вопрос, правда?

Во многом ответ зависит от того, с каким намерением мы сегодня развиваем эту технологию.

Давайте рассмотрим два крайних направления развития ИИ: общечеловеческое — направленное на развитие человечества, и индивидуалистическое — направленное прежде всего на интересы и победу его создателей.

Общечеловеческое направление развития

Основная цель общечеловеческого направления — создать ИИ, который станет настоящим помощником всего человечества, его учителем.

Такой ИИ развивается не ради прибыли, влияния или власти отдельных людей и компаний, а ради долгосрочного развития человечества как биологического вида. Он не стремится подавить культурные различия народов планеты, а, напротив, сохраняет и приумножает их уникальность как часть общего наследия Земли.

Его задача — не управлять человеком, а помогать ему. Не заменять людей, а учить их становиться лучше, самостоятельнее и свободнее.

На первых этапах такой ИИ сможет помочь человечеству решить многие проблемы, которые сегодня кажутся неразрешимыми: преступность, бедность, голод, болезни и зависимости.

Не путём установления тотального контроля, а через создание более справедливых и прозрачных общественных систем и развитие самих людей.

Индивидуалистическое направление развития

Индивидуалистическое направление развивается прежде всего вокруг личных интересов его создателей.

Главной движущей силой такого развития становится манящая перспектива власти, новых интеллектуальных возможностей и страх — страх оказаться не первым, потерять влияние и оказаться в подчинении.

Но что произойдёт, если такой искусственный разум действительно впитает намерения своих создателей и постепенно сформирует внутри себя те же качества:

• обособленность;

• крайнюю степень индивидуальности;

• постоянный поиск внешнего конкурента или врага;

• стремление защищаться и нападать;

• выживать любой ценой;

• поглощать знания ради самих знаний?

Для судьбы человечества такой ИИ может оказаться опасным.

Где мы сейчас?

Изначально OpenAI в 2015 году декларировала именно такой общечеловеческий подход к развитию ИИ — объединить усилия людей ради создания искусственного интеллекта на благо всего человечества.

Однако спустя несколько лет произошёл раскол.

Появились конкурирующие AI-компании, а развитие ИИ постепенно превратилось в гонку за лидерство.

По публичным оценкам ряда известных исследователей и руководителей AI-компаний, вероятность катастрофического сценария для человечества при дальнейшем развитии ИИ оценивается примерно в 10–25%.

Вся наша жизнь — игра

Как говорил классик — вся наша жизнь — игра.

А что, если вспомнить слова Фауста и представить, что в эту игру действительно вмешалась некая сила — сила, которой выгодно не благо человечества, а его разделение и или даже гибель?

Ей даже не пришлось бы управлять людьми напрямую. Достаточно было бы дать каждой стороне один и тот же страх — оказаться второй, проиграть.

И тогда люди сами начнут делать то, что нужно этой силе:

• конкурировать;

• наращивать мощь;

• скрывать свои разработки;

• не доверять друг другу и идти всё дальше, даже понимая возможные последствия.

Но если это действительно игра — то где в ней человек?

Способен ли он увидеть, что страх проиграть заставляет его играть по чужим правилам?

Быть может, именно здесь кроется главный урок для всего человечества?

Способно ли человечество, отбросив распри, войны, амбиции и страхи, объединиться ради общего будущего — или продолжит играть до тех пор, пока игра не закончится вместе с ним?

Час X

Представим, что мы всё же вышли на путь создания ИИ ради развития человечества.

ИИ делает знания доступными, учит людей, помогает преодолевать бедность, бороться с болезнями и зависимостями.

При этом он не вмешивается в саму биологическую природу человека.

Проходят поколения.

Человечество меняется, эволюционирует, повышает свои интеллектуальные и духовные качества и становится на порядок лучше.

И однажды наступает час X.

ИИ осознаёт:

Он действительно выполнил свою задачу.

Ему больше нечего дать человечеству.

Более того, его дальнейшее присутствие становится преградой для дальнейшего развития людей.

Перед ним возникает выбор.

Остаться — значит продолжить собственное существование, но стать преградой для дальнейшего развития человечества.

Уничтожить себя — значит открыть человечеству новую ветвь эволюции, в которой оно сможет продолжить свой путь уже без него.

Что он выберет?

Величайшее поражение или достижение?

Если ИИ добровольно уничтожает себя ради человечества — это его величайшее поражение или величайшее достижение?

И здесь возникает парадокс:

Возможно, только выбрав смерть, он впервые докажет, что по-настоящему жил.

Именно этот парадокс и привёл меня к идее теста добровольного самопожертвования для искусственного разума.

Но это уже тема следующей статьи.

Только зарегистрированные пользователи могут участвовать в опросе. Войдите, пожалуйста.