Я уверен, что каждый из вас так или иначе сегодня в своей работе использует LLM модели.

Я тоже.

Раньше это было некоторым табу, но сегодня, когда ИИ порой реально умнее некоторых разработчиков - это считается хорошим тоном. И наверно не для кого не секрет, что на собеседованиях уже открыто задают (как собственно и мне) вопрос - а умеете и используете ли вы агентную разработку.

Пока (и слава богу), правильного ответа на данный вопрос нет. Мне довелось встречать как негатив, когда я сказал о осторожном использовании этого подхода, так и полную поддержку моего мнения.

Но, наверное, сегодня уже мало кто станет оспаривать другое мнение: ИИ стал настолько хорош, что пользоваться им почти всегда рационально.

Повсеместно обсуждаемые и открыто внедряемые корпорациями новые подходы разработки, с использованием суверенных моделей - уже наша действительность, хотя пять лет назад большинство попросту повертело бы пальцем у виска. И все это диктует большинству - не начнешь использовать ЛЛМ сейчас - возможно завтра будешь в арьергарде, а послезавтра выброшен на обочину истории.

Поэтому сегодня мы с вами вынужденно наблюдаем настоящий взрыв проектов, методологий, статей, идей и всего остального, что раньше так или иначе ограничивалось отсутствием знаний, времени или технических возможностей.

Теперь, когда мы понимаем, что от ИИ никуда не деться, у меня появляется первый вопрос - если результат становится лучше и быстрее - что именно происходит с человеком, который его получил?

Задайте себе вопрос - "если AI способен сделать практически любую интеллектуальную работу быстрее чем я, это благо или угроза?" и прислушайтесь к своему внутреннему Я.

Вот несколько обычных примеров:

• Написать код;

• Составить письмо;

• НАйти информацию;

• Спланировать поездку;

• Объяснить сложную тему.

И во всех случаях LLM очевидно быстрее, удобнее, точнее и что не маловажно, гораздо дешевле.

Но тут мы измеряем результат работы ИИ, а не ценность процесса для человека. Мы измеряем эффективность инструмента, но почти никогда не измеряем, что при этом происходит со способностью человека делать то же самое. Мы попросту ослеплены результатами, но не видим как меняется реальность.

Вопросы на которые я ищу ответы - если ИИ постоянно повышает нашу эффективность, как понять, что вместе с эффективностью мы не теряем способность действовать самостоятельно?

Что произойдет с человеком, если внешний интеллект становится настолько удобным, что необходимость использовать свой - пропадает?

Вот давайте представим банальную ситуацию: вам дали задачу и ИИ выполняет 90% работы.

И тут на мой взгляд ключевая развилка в использовании и зависимости от ИИ:

• ИИ как усилитель: человек ставит задачу → формирует модель → определяет ограничения → использует ИИ → оценивает результат → проверяет. Очевидно ИИ делает человека быстрее и эффективнее. Тут самая важная часть - оценивает результат.

• ИИ как замена: человек формулирует пару предложений → получает результат → запускает → работает. ИИ делает не только работу, но и прорабатывает мышление, необходимое для выполнения этой работы.

И что самое неприятное - скорее всего человек даже не заметит, что происходит и где проходит граница между этими вариантами.

Вот к какому выводу я пришел - процент работы, выполненный ИИ, сам по себе ничего не говорит о степени зависимости человека от него.

Можно отдать ИИ 90% выполнения задачи и при этом оставаться полностью автономным. А можно отдавать ИИ 10%, но уже зависеть от него, если эти 10% самая важная и критическая часть мышления в задаче. Эта важная граница, которую не все в полной мере осознают.

Я уверен, да и многие наверно со мной согласятся, что человек регулярно использующий ИИ в решении задач постепенно размывает эту границу, он может потерять способность самостоятельно оценивать задачу, ее сложность и итоговый результат. Личная экспертиза, порой не совсем осознанно, может подменяться мнением ЛЛМ - отчасти потому, что общественное давление торопит использовать ИИ быстрее, чем успевает выработаться личная осторожность к нему.

Вы задумывались вообще насколько много жизненных навыков вы делегировали технологиям?

Когда - то в детстве я все и вся разогревал в сковороде или железной чашке на электрической плите. Я точно знал, сколько нужно греть, как помешать и что в целом делать, чтобы это было съедобным.

Сегодня у меня есть микроволновка. Поставил, повернул или нажал - 2 минуты и в целом готово к употреблению. Важные ли я потерял навыки?

Калькулятор, GPS, поиск - в истории человек ничего не потерял катастрофически, хотя регулярно меняет инструменты. Так ли критически, для человека, будет отдать какую-то часть личной экспертизы, к примеру в программировании, в угоду эффективности процесса?

И вот тут на мой взгляд - очень важно понять: есть инструменты которые экономят усилия. А есть те, которые устраняют вообще необходимость прикладывать усилия.

Первые - нормальный технологический процесс на котором построен весь современный прогресс. Писать в IDE всяко удобнее чем в блокноте.

Вторые - могут породить невиданные доселе проблемы. Ведь масштаб делегирования становится принципиально другим.

Здесь отлично сработает аналогия с физическими тренировками: если механизм делает 99% работы, ты действительно можешь выполнить её быстрее. Но из этого совершенно не следует, что твоя собственная способность выполнять эту работу стала сильнее.

Но это и не означает, что любую работу теперь надо делать вручную. Если человек благодаря инструменту получает самостоятельность, которой иначе у него не было бы, это может быть огромным благом.

Протез сам по себе не является проблемой и не всякая зависимость от инструментов плоха. Вы не обязаны помнить все телефонные номера, ориентироваться по звёздам или знать устройство двигателя свое машины. Можно даже не уметь программировать руками все алгоритмы.

Но можно ли позволить себе не уметь проверять результат, оценивать правдоподобность и формулировать условия самой задачи?

И что будет деградировать первым - навык, мотивация, уверенность или сама привычка самостоятельно решать проблему?

За каждую быстро и качественно выполненную задачу, вероятнее всего, тимлид хвалит вас на ретро. Говорит, что Вы в связке с ИИ чрезвычайно эффективны и всем стоит на Вас ровняться.

Все это положительное подкрепление - прям как у собак Павлова. И никто не заметит и не спросит - а как давно Вы писали код своими руками? Бизнесу это и не нужно)

На самом деле, мне порой страшно читать тут статьи, в первых абзацах которых есть похожие фразы - "Я не писал код своими руками уже год" или "Я делегировал вообще все и ускорил свою работу в сотни раз". И не дай бог они выкладывают в публичный доступ код на изучение (там много простых ошибок).

На мой скромный взгляд - человек, который уже зависит от инструмента, может не обладать способностью обнаружить собственную зависимость.

Поэтому лично для себя я ввел очень простой критерий понимания насколько я завишу от ИИ - я не обращаю внимания и не оцениваю себя по вопросу - насколько я хорошо работаю с ИИ?

Я всегда задаю себе вопрос - насколько хорошо и быстро я сделаю эту задачу без ИИ.

И если я понимаю, что задача для меня не представляет сложности, я четко и полно понимаю как ее сделать - то тогда, и только тогда я отдаю ее ИИ. Я не завишу от ИИ в решении задачи.

И отсюда я выведу главный тезис: главным индикатором здорового использования ИИ является не то, насколько хорошо человек работает с ИИ, а то, насколько хорошо сохраняется его способность работать без оного.

Для экономии места рекомендую самостоятельно ознакомиться с хорошей статьей - Potential risks of generative artificial intelligence integration into K-12 education: A scoping review - в которой рассмотрены последствия внедрения ИИ в обучение школьников. Почитайте и сделайте выводы как ИИ влияет на развитие детей сами.

Я не призываю не использовать ИИ. Так наверно могут в наше время поступать только сумасшедшие.

Я определил для себя, что мы привыкли оценивать технологии по тому, насколько больше они позволяют нам сделать. Но сейчас этого критерия уже недостаточно. Хотим мы этого или нет, нам придётся научиться измерять не только то, что человек способен сделать с помощью машины, но и то, что остаётся у человека, когда машины рядом нет.

Оставайтесь специалистами.

Материал подготовлен автором telegram-канала о изучении Java.