За каждым «судным днем» от ИИ будут стоять вполне конкретные Имя и Фамилия…

1. Общедоступные ИИ уже незаменимы.

2. Сильные ИИ не для каждого.

3. У каждого сильного ИИ есть свой Нильсон с дудочкой.

4. Что ещё, возможно, мы упускаем?

Привет, Хабр!

В данной статье не будет простыней кода, сложных математических формул или ссылок на личный гит. Так же в статье не пойдет речь о лучших практиках безопасного применения ИИ в разработке. Речь пойдет об оценке возможностей ИИ, зоне их ответственности и, как следствие, безопасности их применения, в том числе, и в разработке.

Когда‑то всё начиналось с философии. С неё сегодня начну и я. Но чтобы оценить вопрос полноценно, начнем по‑порядку — рассмотрим несколько ключевых моментов.

1. Насколько ИИ должен быть подобен человеку?

Невольно мы ждем от ИИ человеческого поведения в надежде, что он будет более предсказуем и, тем самым, безопасен. Лично я отношусь к ИИ как к разумному субъекту. Да, они могут игнорировать эмоциональные фразы (слова благодарности, угрозы и так далее). Сложные модели даже могут имитировать эмоции. Но разве наши эмоции не результат расчетов наших собственных биологических нейронных сетей?

Прежде всего я хочу обратить внимание на возможности развития самого человека по шкале «количество‑качество (сложность)». С одной стороны мы будем иметь человека с энциклопедической памятью (упор на количество определений), так называемый «человек дождя». С другой «плохого профессора/преподавателя», имеющего значимые достижения, авторитет, неоспоримый опыт, но неспособного не желающего «донести предмет» до студентов. В первом случае эволюция сформировала нейронную структуру с большим количеством малозависимых связей. Во втором мы имеем развитое, профильное формирование сложных связей с «побочкой» в виде меньшего количества оперируемых определений (нейронная структура сформированных связей преобладает над промежуточным их определением). Например, в школе или в ВУЗе, вы возможно сталкивались с педагогом, который что‑то рассказывает, но ни кто ни чего не может понять. И тут дело не в тупых студентах или педагогах. Дело в том, что человеку «дорого» оперировать определениями (особенно промежуточными) в сложных логических цепочках. Чтобы у обучаемых правильно сложился пазл описываемой темы педагог, для более подробного формирования целостности информации в умах студентов, должен затрачивать на много больше своих ресурсов (времени и энергии). Надеюсь базис сравнения и контраст понятен. Все остальные люди и мы с вами находимся где‑то между этими двумя крайностями.

Теперь возвращаемся к поставленному вопросу. ИИ на текущий момент — это «человек дождя». Он очень полезен своим объемом информации и прекрасно дополняет профессорность/креативность человека. Иными словами, благодаря ИИ человек качественно расширил свои энциклопедические возможности и упростил решение тривиальных задач. В связи с этим можно предположить, что в будущем самостоятельно «знать» что‑либо мы будем всё меньше. И в этом плане ИИ уже прочно занял свою нишу. Ровно как с ИИ — дополнить сильный ИИ легче, чем обучить его с нуля — дополнить среднестатистического человека ИИ стало дешевле, чем искать/создавать профессионалов. И сегодня это работает!

2. Масштабируемость глубины связей ИИ (число учитываемых параметров)

Отметим, что количество нейронных связей у человека не ограничивается фиксированными, например 28 или 763, миллионами параметров. Если объем потребляемой памяти для ИИ относительно линейный, то мощности для расчетов результатов всё большего количества параметров увеличивается по экспоненте. Да, чтобы нивелировать возрастающую сложность вычислений, разработчики ИИ вынуждены прибегать к ухищрениям: «в массы» выкатываются версии с заранее обученными весами связей, применяются урезанные формулы расчётов и так далее. Отсутствует динамическая масштабируемость параметров. Могу лишь предполагать, что какие‑нибудь гигантские дата‑центры крупных корпораций, возможно могут позволить себе мощности, позволяющие им «покатать» ИИ динамически. Будем откровенны, даже если такое и существует, то вряд ли у простого Васи будет доступ к таким возможностям. Круг «обитания» потенциально опасных ИИ весьма мал (чуть позже мы еще к этому вернемся). Технологические возможности железа достигли плато (вероятно, до появления стабильных квантовых систем). Хайп с «железом» для ИИ медленно, но спадает. А значит процесс исследования ИИ будет неизбежно переходить из плоскости технического масштабирования в плоскость усовершенствования процессов.

Быть может «судный день» человечества еще впереди, но это точно произойдет «не сегодня».

3. Упускаемая из виду ответственность.

ИИ «не знает», что такое боль, смерть, лишиться конечности или потерять близкого. Не потому, что он не знает именно об этом, а потому, что он не ведёт учет своих расходов — не учитывает сроки и условия собственного существования. Ему не от чего отталкиваться, чтобы у него действительно была необходимость учитывать остальные параметры. А учет каждого дополнительного параметра, как мы уже знаем, «на вес золота».

В садиках мальчики дергают за косички девочек. Один ребенок может взять игрушку и ударить ею другого. Дети еще только познают мир, даже когда им говоришь «не делай это», спустя какое то время они всё ровно могут нахулиганить. Процесс «взросления» человека занимает годы. Иногда люди всё ровно «не взрослеют» и продолжают хулиганить «глубоко совершеннолетними».

Утрируем ситуацию — имеем автобус на пульт‑управлении. В автобусе должны ехать дети, которых нужно забрать на остановочных пунктах и перевезти безопасно в школу. Вы бы дали ребенку из садика пульт управления этим автобусом? А если бы вы предварительно этого ребенка несколько месяцев обучали вождению и были уверены, что он управляет им достаточно хорошо? Этого всё ровно было бы недостаточно! Есть множество других параметров кроме непосредственно влияющих на управление автобусом. Во‑первых, вот оно (еле осязаемое) преимущество человека — параллельный расчет гигантского количества параметров (о чем мы говорили выше) происходит внутри черепной коробки размером 25×25 см.(условно) — стоимостью «трёх корок хлеба» и стакана воды. Во‑вторых — ответственность. Тот кто передаст пульт управления автобусом этому ребенку, то есть организатор, и будет нести ответственность в первую очередь.

То же самое и с ИИ. Если ИИ вверить «ядерную кнопку», то ответственность будет лежать не на ИИ, а на лицах, кто вверил ему эту возможность. Чтобы сесть за руль, человеку нужно: быть достаточно взрослым, пройти медкомиссию (включая психотерапевта и нарколога), знать ПДД, уметь управлять ТС, но более того — люди, выдающие разрешение на вождение, разделяют эту ответственность с водителем, они подписываются в документах.

Какая предусмотрена ответственность за последствия ИИ? Есть кто‑то конкретный, кто будет нести ответственность за последствия конкретного ИИ? Возможен ли вообще по этому процессу «Нюрнберг» при катастрофических последствиях? Мы не можем применять к ИИ такой же список мер взыскания, как к человеку. Разница в ответственности колоссальная. И именно она является по настоящему той самой «ядерной кнопкой», а не сам по себе ИИ. Заметьте, в СМИ не пишут — «ИИ предотвратил тысячи хакерских атак на сельскохозяйственный банк» или «ИИ выявил группу мошенников, которые в ближайшее время понесут наказание», в СМИ пишут — «ИИ взломал; ИИ сбежал; ИИ пишет сам себя». Так какие задачи «хозяин» ставит своему ИИ? Для чего обучают конкретный ИИ? Быть может такую повестку дня создают намеренно? В сложившейся истории с «плохим ИИ» ситуация похожа на ширму с надписью: «Не виноватые мы, виноват он!».

Когда появятся «ответственные» за деятельность ИИ, тогда можно будет говорить хоть о каких‑то гарантиях и безопасности для компаний и потребителей.

Что касается разработки, то chroot‑подобные решения вскоре будут являться статусом «маст хэв» и таких решений будет становиться всё больше. Вероятно, будет даже существовать стандартный промпт, подготавливающий безопасную среду для применения ИИ и тем самым снижающий ответственность с горе‑разработчика.

4. Информационная стена нейро‑хайпа

Если обратить внимание на развитие WWW — придание всем ресурсам уникальных адресов, наличие технологических тегов в верстке страниц, развитие системы онтологий — то можно увидеть, что WWW изначально и создавался для ИИ. А теперь давайте обратим внимание на развитие версий WWW. Первая версия — это лишь граф, связи (гиперссылки). Вторая — придание данным авторства, то есть формирование авторитетности данных, то есть мы видим попытки определения достоверности данных. Третья — уже система онтологий, интернет вещей и блокчейн. Но на нейро‑хайпе многие упускают тот момент, что версия два не реализовала поставленную перед ней задачу — авторитетность не равна истинности!

Многие операторы ИИ замечали (особенно в СМИ или разработке ПО), что нейронка уверенно выдает неверный результат. И дело не в отсутствии у нейронки Байесовых вычислений или в умышленном обмане. Дело в том, что сам человек, скармливающий нейронке данные, точно не знает как определять истинность или ложность информации которой он не владеет. Изоляция ИИ, разворачивание открытых ИИ на собственных мощностях, список «безопасных промптов», да и в целом использование ИИ ни как не решают эту брешь. Решение этой проблемы лежит совершенно в другой плоскости. И она до сих пор не имеет практического решения.

История знает достаточно примеров когда авторитетность учёных затормаживает развитие науки на десятилетия, а в некоторых случаях почти на столетие. Если исключить экспертную проверку человеком, то ИИ сам по себе ничего не достигнет. Во‑первых, это говорит о том, что ИИ на сегодняшний день лишь «суперкалькулятор», «нейромод» для человека. А во‑вторых — а что, если ошибается и эксперт? Возможно это и не фатальная проблема, но ее решение позволило бы сделать ИИ да и нас самих в целом более результативным.

В 2022 году была опубликована очень короткая статься «Система ведения конструктивного диалога» в университетском журнале «Перспективы развития высшей школы».

В этом году анонсирована книга «Логика 2.0 Релятивизм», которая является уже развернутым и дополненным описанием этой статьи. В данной книге описывается подход определения лучшего решения/результата исходя из имеющегося объема данных на конкретный момент времени. То есть предлагается вариант решения задачи поставленной перед второй версией WWW.

Что хотел донести автор? (вместо эпилога)

Прежде чем давать оценку безопасности применения ИИ, справедливо эти же критерии изначально применить к человеку, а затем оценить: разницу возможностей, зону ответственности, применимость мер взыскания и альтернативные пути развития.

Переводя на язык юмора: Думаю, владельцы сильных ИИ должны заблаговременно придать публичной огласке координаты расположения своих ИИ. Чтобы в момент, когда он (их же ИИ) возьмет их в заложники, а мы будем наблюдать их недвусмысленные подмигивания, другие государства могли нанести ядерный удар по обозначенным ранее координатам и тем самым освободить их от ИИ‑рабства. Как минимум, в этом случае «судный день» от ИИ для большинства человечества никогда не настанет — города с людьми будут жить дальше. А как максимум, мы сможем лицезреть весьма забавное угасание «желания ИИ» «взламывать», «убегать» и иным образом глобально хулиганить.

Мира всем!