Сегодня, дамы и господа, на нашей рациональной площадке слушается громкое дело “народ против ИИ”.
Ваш покорный слуга будет выступать независимым наблюдателем процесса. И, как полагается любому сложному явлению, констатировать плюсы/минусы и неоднозначность позиций сторон. А также докапываться к фактам.
За последние 2 года раз 6 выступал на крупных конференциях с докладами про ИИ. Возможно, с некоторыми читателями мы с тех пор и знакомы.
Даже на этом проекте рассказывал о будущем ИИ, его архитектуре, и почему не стоит ждать “суперинтеллекта”, который <должен> решить все проблемы.
Сегодня пойдем дальше и глубже. Не будем трогать принципы работы и прочие общеизвестные вещи.
Большинство текстов об ИИ пишется на одну из двух тем:
- “Обалдеть как всё быстро меняется”. Про инновации, потенциал беспилотных такси и прочего интересного.
- “Обалдеть что вы упускаете”. Про возможности, которые если вот-вот прямо сейчас не начать использовать – дальше метла, двор и дешевые чернила.
И то и другое актуально. Надо быть совсем дураком, чтобы отрицать важную роль ИИ (и нейросетей как части ИИ) в нашей жизни. Даже сам уже не помню когда держал руль на МКАД руками, и это реально удобно.
Также нет смысла отрицать, что часть профессий или полностью исчезнет, или существенно видоизменится (например, профессия держать руль руками). Какие именно – как раз и обсуждали в прошлом посте про картину мира ИИ.
Но есть тема поважнее. Кому-то покажется слегка алармистской или паранойной, однако лишь потому, что подобные рассуждения <пока> не часть народной повестки.
Будем говорить не про изменения нейросетей, а про изменения человека от взаимодействия с ними.
План такой: разобраться что происходит → посмотреть факты → понять как получилось → следствия из того что поняли → к чему готовиться в будущем → выводы как нам, людям рациональным, действовать в сложившейся обстановке.
Последний пункт самый важный (напомню что обещал каждый пост и видео в этом году делать только с практическими для жизни выводами), потому рекомендую дочитать.
ВСЁ УПИРАЕТСЯ В ЛЮДЕЙ
Начать стоит с того, что ИИ – великолепная вещь. Без сарказма. Просто превосходная. Можно получить доступ к любому факту за секунды, попросить объяснить непонятную концепцию или перевести страницу с хинди на литературный матный русский.
Проблема в том, что человек намного хуже. Предсказания футуристов всегда настолько эпично промахиваются, ибо никогда не учитывают одну мелочь: homo sapience не работает оптимальным образом.
Мы не машина, которая просыпаясь утром вопрошает: как мне действовать, чтобы достичь поставленных долгосрочных задач наиболее эффективно.
Нет. Мы жрём булочки на ночь (я только что съел две, приношу извинения тренеру), пьём алкоголь вместо ананасового сока и листаем рилсы вместо вдумчивого чтения Аристотеля.
Главная причина всего обсуждаемого сегодня – в том, что человечество с гарантией зафейлит любое, самое хорошее начинание, если там имеется такая возможность. А в ИИ такая имеется, даже две.
Интернет тоже зарождался не как инструмент деградации и бесконечного думскроллинга. Но Википедия в нём теперь занимает мизерный процент от Pornhub.
Среднестатистический Вася проводит 4.5 часа в день за просмотром смешных котов (теперь они ещё и нарисованные 🤦♂️) вместо жадного поглощения всей доступной человечеству информации о Вселенной. Сколько минут (или секунд?) в среднем Вася использует интернет для развития? Вопрос риторический, хотя задумка была хороша.
ЧТО ПРОИСХОДИТ
По мере того, как ИИ становится всё лучше в рассуждениях, текстах и рутине – всё больше людей хватается за любую возможность отдать свои задачи.
И это здорово. Считаю в мире не должно быть работ, где надо вручную заполнять Excel, отвечать на однотипные “цена в личку” или объяснять очередному абоненту куда списались 3 бонусных рубля.
Однако, тут мы и натыкаемся на главные грабли нейросетей. На которые, подпрыгнув, человечество вот-вот приземлится.
Можете быть уверены, что дав ребенку хоть какую-то возможность пользоваться подобным полезным (!) без сарказма помощником – он делегирует ему всю домашку, все мыслительные процессы и даже необходимость знакомиться с девочками из 10”Б” (что весьма нервно и сложно).
И ладно дети. Покажите мне взрослого, который с покупкой автомобиля начал больше ходить пешком. Или хотя бы остался на прежнем уровне.
Кто-то не слышал про 10 000 шагов? Кто-то сомневается что лишний вес и отсутствие нагрузок убивают? Никто.
При этом даже автор данных строк старается парковаться прямо у входа, а поставить машину за 500м и “просто прогуляться, как от остановки” – нечто немыслимое (допускаю, что некоторые так делают, моё почтение. Но вас – единицы на весь город).
Концепция, что homo sapience действуют как “рациональные агенты”, изобретенная в 1776-м году – безбожно устарела. Сейчас люди стремятся к минимизации напряга, пока на другой чаше весов не перетянет нечто очень страшное. И то, в лучшем случае.
Но вот беда: всё что делегируем – атрофируется.
Наймите личного повара, и разучитесь готовить. Наймите водителя – разучитесь водить. Включите автокоррекцию – забудете правила.
И это отлично, когда дело касается ерунды или табличек Excel.
Но, как мы уже разобрались, никто на этом не остановится.
Вот факты: “ChatGPT был запущен всего три года назад, и уже апрельское исследование показало, что 82% респондентов использовали ИИ в течение последних шести месяцев: будь то решение о разрыве отношений или о том, за кого голосовать, люди обращаются к машинам за советом. По данным OpenAI, 73% запросов пользователей касаются тем, не связанных с работой. Еще более интригующим, чем наша зависимость от суждений ИИ в повседневной жизни, является то, что происходит, когда мы позволяем ему говорить за нас... Американская писательница Джоан Дидион однажды сказала: «Я пишу исключительно для того, чтобы узнать, о чем я думаю». Что происходит, когда мы перестаем писать? Перестаем ли мы узнавать?”
Как с интернетом, который должен был помочь людям больше коммуницировать и знать все факты мира, развиться в гениев прямо из дома, а по итогу породил поколение одиночества и снизил IQ.
Так и с ИИ: вместо “персонализированного репетитора по языкам” люди используют его чтобы спрашивать совета о расставании (откуда он знает?) или за кого голосовать (за кого прописали на дообучении).
Сюда же атрофирование навыка письма, который по многим исследованиям является прокси на мышление (мы не мыслим без слов, а значит разучиваясь собирать слова – разучиваемся собирать мысли).
В буквальном смысле делегирование написания текстов (любых) – это делегирование мышления, которое очень быстро вернется в зачаточное состояние. По этой причине своим сотрудникам запрещаю использовать ИИ для каких-либо текстов.
То что происходит далее (человечество уже на пороге, ближайшие годы будут крайне увлекательными) можно назвать “ИИ-мозгом”.
Постепенное ослабление когнитивных, эмоциональных и творческих извилин, по мере того как всё больше мышления, принятия решений и интерпретации событий будет передаваться машинам. Потеря тонкой материи, формирующей личность, и сдвиг цветной картины мира в черно-белую, в зону среднестатистического пользователя интернета, которым ИИ является по своему базовому принципу обучения (общеизвестно, что ответы GPT – сокращенное и чрезвычайно банальное изложение даже не сути предметов, а того что про них чаще всего пишут на форумах).
Что делать – будем говорить в конце статьи. Но сразу хочу ответить на стандартное: “я не такой, меня не коснется, буду только для пользы дела открывать”. Таких людей можно попросить скрин экранного времени в соц. сетях, количество шагов в день, фотку с зарядки и отчёт по питанию.
Если всё из этого на высоте – значит перед нами удивительной силы воли индивид, которому по силам справиться и с ИИ. Такие будут управлять оставшимися 99.99% населения, неспособными к самоограничению на близкую и манящую вкусняшку.
ПРОБЛЕМЫ ДИАГНОСТИКИ
Конечно, среднестатистические пользователи интернета мне возразят что всё ок, ничего страшного не произойдет. Ну, подумаешь “чуть проще жить станет”. Тем более такими будут все.
Но это блог и не для них. “Когда всё вокруг кризис – ничто по факту не кризис”. Без разницы как, главное не хуже чем у соседа – непонятная для меня логика.
К счастью (для себя) среднестатистический пользователь ИИ действительно не заметит разницы без аппарата МРТ.
Если в спорте можно посмотреть в зеркало, увидеть явные симптомы надвигающегося апокалипсиса и принять меры, то с мозгом происходит деградациям самого аппарата анализа. А слепой уже не видит себя толстым и пребывает в уверенности, что там 6 кубиков и бицуха как у Арни.
ТАК МОЖЕТ ЕСТЬ И ПЛЮСЫ?
Как насчет “персональных репетиторов”? Помощи с обучением, изучением наук, самообразованием, концентрированными знаниями?
Вот я тот человек (бывший корректор и редактор), кто ставит длинное тире в тексте в тех случаях, в которых товарищ Розенталь рекомендует. Например, Минск — столица Беларуси. Короткое, минус тоже использую, но строго по назначению. Так что не все))
Спасибо за полезный и важный лонгрид. Особенно для себя отметила тренировки когнитивного трения. Думаю, прям встроить их в календарь на ряду с отдыхом и рабочими задачами, и именно с них начинать планирование бюджета времени на день.
Катерина Матяш, Корректоры и редкторы теперь больше всех возмущены, что их тексты начинают путать с ИИ-шными)) Даже термин есть: AI-dash :)
К счастью, это не иденственное отличие, так что разобраться несложно)
Давно уже считаю, что вбросы типа "Благодаря 'новой технологии X' люди перестанут работать и будут только нежится на солнце да груши пинать" ничего более, чем уголь в топку для разжигаемого хайпа. Никому никогда не будут нужны миллионы бездельников, а то ещё (не дай Бог) начнут думать о смысле бытия и своем месте в этом мире. Нужно тогда либо найти море другой тупой работы, либо загрузить атрофирующиеся мозги лёгким увеселительным контентом 24/7. Хотя ой, постойте...
Кристина Стрельченко, Есть ещё момент, что человеческие амбиции почти бесконечны. Так что даже если роботы научатся (ну а вдруг) делать всё что делает человечество сейчас – тут же появятся новые стандарты, вроде ежегодного отдыха на Марсе, и ради них примутся вкалывать пуще прежнего.
Захар, как всегда спасибо!)
Как вы думаете, как долго продлится история с окупаемостью гигантских инвестиций для ai, и наступит тот самый момент, когда «ожидания инвесторов не соответствуют первоначальным?»)
И второй вопрос: думаете весь текущий хайп этой темы исключительно ради окупаемости инвестиций или преследуется все же какая-то технологическая цель в том числе? Я просто пытаюсь верить в лучшее в людях, хотя бы немного 😁
Дарья Осюшкина, я вижу много полезных применений нейронок. Даже если заменить всех водителей и бухгалтеров – это уже огого))
Так что это не чистый хайп, реально ведь польза есть. Синхронные перевод и много чего ещё.
Но в тех объемах, которые сейчас туда вкидывают – окупиться это может только в случае появления AGI. В который уже не верится.
Когда тейк про AGI станет общеочевидным – сложно сказать, но навскидку это года 3-5 (чтобы не сбылись текущие прогнозы).
Захар Плодунов, Я также по срокам плюс-минус думаю)
Захар, спасибо за очередной интересный материал.
Статья прошла через машинный корректор? Если прошла - то вот пример того, что на машину полагаться полностью нельзя, остаются возможности пропустить орфографическую ошибку (опечатку). Я как старый зануда не мог не заметить опечатку... Вот в этом абзаце, слово "ИССЛЕДОВАНИЯ"
"Сквозь пургу заказных работ кое-где всё же пробиваются непроплаченные ислледования, намекающие что рая на земле для людей и бизнесов в очередной раз не случится (или, как минимум, придется отложить на век-другой)."
Применил прием самозащиты, принцип 1.
Человек всегда несовершенен. В этом уникальность и возможность. Машина - алгоритм. Помощник. Но не созидатель.
Еще раз спасибо за интересный и полезный лонгрид.
Владимир Журавлёв, Благодарю!)
Не, машинные корректоры принципиально не использую и даже всякие подчеркивания отключил. Следую своему же принципу не делегировать то что не хочешь утратить)
Потому ценой эпизодических опечаток, когда пишу в 3 ночи, сохраняю знания русского языка и не бешусь на подчеркивания нормальных, но "неправильных" слов вроде "ИИшка".
Спасибо за труд! Было интересно почитать. Результат от Оскара Хартмана в конце повеселил)
Максим Ткачёв, Благодарю) Да, превзошел все ожидания:)
Захар Плодунов, Робот не отвечает на вопросы. Он отвечает на их отсутствие.
Мысль очень глубокая, вызывает сомнение её ИИ происхождение))
Возможно это первый случай, когда мысль человека была выдана под видом Ии генерации)
Андрей Калашник, Это в целом уникальное свойство человека – найти смысл везде))