ИИ сегодня невозможно не использовать

Стандартная статья это типо «я использовал ии и навайбкодил сайт за 2 дня»

Или «ии психоз» и что-то там. Ну это чуть интереснее, потому что показывает взаимосвязь симбиота человек-ии. И что происходит с человеком. Такой любопытный психотехнический феномен, когда железяка циклиться и циклит человека. Или когда возникает ощущение дереализации, или всемогущества и последующего упадка своей роли.

Вот на тему стыка человек — ии я хотел бы и подумать.

Можно ли сегодня вообще не использовать ии? Можно если отключить пк, смартфон и не садиться за современный автомобиль. Во всех остальных случаях нет.

Толчком к написанию послужил конкурс.

«Код будущего» — конкурсе статей о том, как ИИ меняет разработку ПО, open source и подходы к информационной безопасности.

В этом сезоне особенно ждём практические истории: что вы уже попробовали, что сработало, где ИИ действительно ускоряет работу, а где создаёт иллюзию продуктивности.

О чём можно писать в рамках сезона: — AI‑Disrupt PDLC — перестройка жизненного цикла разработки. Расскажите, как ИИ участвует в планировании, написании и ревью кода, тестировании, мониторинге, как меняются процессы и роли в команде. — Open source для ИИ и ИИ для open source. Кейсы использования открытого ПО и моделей в AI/ML, сравнение решений, собственные библиотеки, фреймворки, инструменты и другие open source-проекты. — Безопасная разработка в ИИ‑эпоху. Поделитесь, как проверять код, который генерируют ИИ-агенты, защищать их от новых рисков и адаптировать DevSecOps-практики к новым реалиям.»

Можно разделить тему «ии и разработка» на две ветки. Первая это взяли цель, далее взяли модель для достижения цели и крутим эту самую модель(компьютерное зрение и брак шпона, поиск пациентов с начинающимся Альцгеймером по данным с мед. карточки и т.д.). Второй это использование ии как части симбиота человек-ии. Второе можно назвать одним словом или словосочетанием. И более того это слово выходит за рамки области программирования.

ИИ в интеллектуальной деятельности

Программирование это интеллектуальная деятельность. Писательство. Составление рецептов, диет, программ тренировок. Учеба. Это все можно отнести к интеллектуальной деятельности.

Кевин Кристенсон и дилемма инноватора

Есть такая культовая книга «Дилемма инноватора». Кто не читал срочно прочитайте, ибо там говорится о фундаментальном вопросе технологий и бизнеса, причем весьма на высоком уровне мышления и с изобилием примеров, подтверждающих основную идею автора.

А основная идея коротко выглядит так:
Появляется некая технология, захватывает низы рынка, обосновывается в нижней части рынка которую никто из компаний не хочет трогать, затем идет в средний сегмент и наверх.

С ИИ и интеллектуальным трудом ситуация будет следующая:
Если вместо сегментов рынка по оси ординат написать сложность действия, то получится ситуация с AI. ИИ захватил самые стандартные и низовые действия, которые вообще не хочется делать.
И тут первое отличие: автоматизировать низовые/рутинные/нудные действия очень сильно хочется. Большая потребность, большой фокус внимания, очевидные выгоды в отличие от ситуации с низом рынка. В схеме Кевина низ рынка особо-то не хочется захватывать, это делают малые компании, какой-то мутной малоизученной технологией. В ситуации с ии наоборот, очень хочется автоматизировать низовые действия.

В конце, когда становится очевидно, что технология эффективна все компании, даже опоздавшие поздно, или рано на нее пересаживаются.

В одной из статей про ии психоз была фраза описывающая невозможность отказа от ненавистного инструментария.
«А теперь я живу в этом хаосе, чтобы только поддерживать производительность на уровне, ставшим нормой для всей индустрии.»

Можно выдавить зубную пасту из тюбика обратно ее положить уже проблематично. Если цель содержит эффективность, то уже не получится не использовать ии. Иначе нужно отступить, занять поменьше места и дать более конкурентным человеко-ии симбиотам больше пространства.

Будет такая точка, когда уже не получится не использовать ии из соображений конкурентоспособности.

И самый прикол в том что невозможно уже не задействовать AI в своей жизни, даже без цели бытия конкурентным. Он нативно встроен в жизнь любого человека, который живет хоть какую-то цифровую и интернетную жизнь. Нужно что-то перевести перевод страницы это ии, загуглить — гугл пишет ии-обзор, хочется послушать новую музыку — алгоритмы с элементами ии будут предлагать песни на основе сходства с прошлыми треками.

Даже если человек будет сознательно отказывать от ии, он все равно будет его неявно использовать.

Хайп

Несмотря на то что ии сейчас выполняет относительно низовые действия, он находится на хайпе. Это еще одно отличие от классической схемы. Когда по началу технология далека от внимания, потоков денег, масштабных исследований направленных на ее развитие и т. д.
Технология не вышла еще в окупаемость, но в нее закачивают колоссальные объемы денег, энергии, внимания, человеко-часов. И конца и края этому не видно.
Даже когда/если «пузырь AI» лопнет, то настанет голодное время и выживут только самые эффективные технологии в области ai. И затем цикл повторится заново.
И это еще один фактор повсеместности, всеобъемлющести ии. Он дополняет давление от ии со всех сторон на человека. Дополнительная причина невозможности не использовать ии.

Безопасность. Атака дешевле защиты

Агрессивное действие дешевле чем защитное. У агрессора есть преимущество в виде выбора точки с которой осуществляется наступление. Первый удар выгоднее, чем второй. Первый удар автоматически захватывает инициативу. Это видно в шахматах, единоборствах, ракетных системах.

Ии-рои будут проатаковывать цифровые системы и дальше. И это ультимативное оружие. Автономное, мощное, непредсказуемое. И нужны.. тоже ии-шные инструменты, чтобы защититься от ии-шной атаки. Программист он человек(пока что), а человек ленив, устал, может просмотреть ошибку, спит — иногда он спит ест и т. д. Обладая таким солидным набором недостатков, человеческий безопасник не может наблюдать 24/7 за системой требующей безопасности. Если же человек-раработчик оставит за собой некоторую жесткую инструкцию, то адаптивные миньоны-ломальщики обойдут эту жесткую инструкцию. Так что нужен такой же адаптивный Т-1000, который будет стоять против другого Т-1000.

Может вообще не использовать

Если цель эффективность, или же эффективность как важный элемент, то AI не получится не использовать. И чем дальше, тем прочнее он влезает в жизнь общества и в жизнь отдельного человека, что начал пользовать ии.

Но если есть роскошь быть неэффективным, то можно выбрать путь отказа от ии.

Ну и микро-мысль, про проверку кода нагенеренного ai-ем. А никак это не сделать. Если человек будет абузить ии. И идти по самому агрессивному пути — просто накидывать промт за промтом, и промтом дебажить, а то что получилось на ревью, то если проверять человечесткими методами, то никак его не проверить. Ибо затраты проверяющего намного больше затрат генерирующего. Так что ии в разработке, это такая же дисбалансная история, как и история с дисбалансом атака-защита. Атака дешевле.
Только локально, какие-то куски шаблонного кода, boilerplate-кода. Может быть. Но на одной конфетке сложно остановиться - хочется еще. Все по Кевину Кристенсону, начало с более нижних сегментов и постепенное вытеснение в средние.

ps

Я некоторого рода ощущаю опоздание, я хотел бы побольше написать на прошлый сезон про ии. Это был сезон научного рассказа, или футуристической статьи. Так что я пишу как бы за прошлое.

Не знаю, мне кажется что что-то по типу описания станка, что ищет на фанерном шпоне с помощью ии-шки закоры и стручки, это не столь актуально. Это было круто и ново в 2017. В текущем моменте я бы хотел думать об ии и роли человека в этой системе. Дмитрий Лихачев еще говорил о дисбалансе развития научно-технического прогресса и наук о человеке, а также самого человека. И утверждал, что мол 21 век должен стать веком развития человека, иначе нас всех ждет катастрофа. Мне кажется есть зерно истины в словах этого человека.

Идея засунуть множество нейросетей в агентов была у меня в 22м году, роевой интеллект был такой. Он также является эвристическим алгоритмом, как и нейросети. У меня тогда возникла такая мысль. Правда использовать это для атаки мыслей не было.