[Перевод] Что мы теряем, когда ИИ пишет за нас

На некоторые вопросы ответить проще, чем на другие.

Много лет назад - больше, чем мне хотелось бы признать - в те времена, когда программное обеспечение устанавливалось с компакт-дисков, а для выхода в интернет нужно было ждать, пока модем дозвонится по телефонной линии, мы писали тексты с помощью текстовых процессоров.

Именно так Microsoft Word получил свое название: буквально версия текстового процессора от Microsoft. А до Word были терминальные редакторы вроде WordStar - которым, как известно, до сих пор пользуется Джордж Р. Р. Мартин.

В то время у нас были проверки орфографии. Гораздо более примитивные, чем современные инструменты в браузерах и приложениях.

Из руководства пользователя WordStar 4.0 - версии 1987 года, в которой до сих пор пишет автор «Игры престолов»:

Программы проверки орфографии сверяли каждое слово с локальным словарем на компьютере. Нет в словаре - значит опечатка.

Со временем вы создавали пользовательские словари. Позднее появилась проверка пунктуации и настраиваемые правила стиля. Например, помечать ли длинные тире без пробелов как ошибку.

Быть писателем означало быть механиком

Чтобы писать, нужно было быть одновременно и писателем, и продвинутым пользователем своего текстового процессора. У каждого приложения - свой набор инструментов, горячих клавиш и причуд интерфейса.

Разработчики гордились своими творениями. То руководство пользователя - 428 страниц, которые можно читать все выходные, с пустым разделом для заметок в конце.

Это были хорошие времена. Компьютеры медленнее. Программы менее функциональны. Приходилось больше думать, больше возиться. Похоже на то, как быть механиком собственного автомобиля.

Сравните это с тем, как дети используют ChatGPT сегодня. Будто смотришь на два разных мира. Одновременно восхищаешься прогрессом - и пугаешься будущего.

Письмо как акт когнитивного эксгибиционизма

Письмо в своей простейшей форме - это процесс мышления на бумаге. Хотя бумага в наши дни так же иллюзорна, как и большая часть написанного: белый прямоугольник, нарисованный на экране графическим процессором.

В некотором смысле это акт когнитивного эксгибиционизма. Вы излагаете слова на письме, нажимаете «Опубликовать» и обнажаете их перед публикой. Надеетесь, что кто-то где-то когда-то увидит в них ту красоту, которую однажды увидели вы.

Существовала причинно-следственная связь между мышлением в голове и словами на бумаге.

Уровень письма определялся глубиной мысли. Плохой мыслитель - плохой писатель.

До сих пор. И в этом моя главная претензия к генеративному ИИ.

Почему я удалил Grammarly

Я отказался от Grammarly несколько лет назад. Программа была хорошей. Слишком хорошей. Настолько, что я стал небрежным в письме. Зачем следить за клавишами, когда Grammarly исправит опечатки?

Я удалил приложение в тот день, когда оно перестало просто проверять ошибки и начало предлагать варианты переписывания.

Боже, эти переписывания. Вы бы видели мое лицо, даже сейчас, когда думаю о них. Передергивает. Казалось, будто приложение выполняет миссию по превращению моего письма в такое же, как у всех остальных.

Нет уж, спасибо.

Какое-то время я использовал Writer.com - оно позволяло настраивать собственные правила стиля. Писать ли через дефис cast iron во фразе cast iron skillet. Выделять ли даты средним тире вместо дефиса.

Но затем приложение перепрофилировалось в какую-то агентную платформу ИИ-райтинга для корпораций. Появился ChatGPT, и я понял: можно просто скопировать текст и попросить проверить опечатки и грамматику. Зачем спелл-чекер, когда есть джинн в бутылке прямо в браузере?

Джинн в не тех руках

Этот джинн может быть опасен. Дайте его тому, кто не ценит писательское мастерство - и он будет штамповать слова. Много, очень много слов.

Мы видели это во время недавнего наводнения сети «словесным мусором» - slop, новый термин для писанины от ИИ.

Проблема в том, что когда все используют ИИ для извержения этого мусора, настоящей работе - письму, которое остается в памяти, которое призвано тронуть чье-то сердце - становится все труднее выделиться.

Это как когда центральный банк печатает деньги, чтобы раздать всем наличные. В итоге все становятся беднее, потому что сами деньги обесцениваются.

Или как новости. Там столько смерти, разрушений и безнадежности, что к моменту, когда натыкаешься на что-то позитивное, ты уже слишком очерствел.

Вот что генеративный ИИ делает с практически всем. И писательство - только начало.

Бунт творцов

Неужели так профессиональные музыканты чувствуют себя по поводу любителей вроде меня, способных выдать музыку, просто дав ИИ промпт? Музыкальная шкатулка, сошедшая с ума?

Может быть, поэтому художники и иллюстраторы бунтуют против ИИ? Поэтому разработчики так держатся за свои рабочие места?

История технологий - история абстракции

Чем больше развиваются технологии, тем меньше нам нужно понимать мир - или знать, как им управлять.

До появления калькулятора любой, кто работал с числами, должен был быть своего рода математиком. Не нужно было быть вундеркиндом, чтобы открыть мясную лавку. Но нужно было рабочее знание математики.

Местный мясник вел тетрадь с расчетами процентов выхода продукции и прибыли. Это позволяло ему не только продавать стейк, но и держать лавку открытой день за днем.

Сколько мясников сегодня умеют работать с дробями? А вы смогли бы справиться с дробями без калькулятора?

Это благо - и проклятие - технологий. По мере развития они забирают на себя все больше рутинной работы. Делая нас все более зависимыми от них в этой самой рутине.

Программирование до эпохи LLM

Компьютерное программирование на заре было не для слабонервных. Языки были низкоуровневыми. Когда писали код, по сути давали компьютеру прямые инструкции о том, как управлять электронными схемами. Неверные инструкции могли привести к сбою или потере данных.

Нужно было знать машину вдоль и поперек. Быть предельно внимательным к инструкциям и порядку, в котором их даешь.

Затем Джон Маккарти придумал Lisp, внедрив понятие оценки кода перед передачей машине. Его студент Стив Рассел написал первый интерпретатор. Ошибки стали менее фатальными - между разработчиком и машиной встал еще один слой, отлавливающий ошибки на ранней стадии.

Это было как оснастить автомобили антиблокировочной системой тормозов. ABS облегчает вождение, но означает, что можно водить, так и не приобретя продвинутых навыков.

На этот раз все иначе

Даже с интерпретируемым языком нужно знать язык. Даже с ABS нужно уметь водить.

С ИИ вы садитесь на заднее сиденье, и машина едет сама. Просите создать приложение - он создает. Это впервые. Ни одна предыдущая технология не работала автономно без явной последовательности инструкций.

Технология дает, технология забирает.

Когда смотришь на ИИ через эту призму, масштаб изменений кажется почти естественным и ожидаемым.

Мы - современные крестьяне?

До промышленной революции от 80 до 90% населения мира были фермерами. Людям нужно было есть, производство еды было трудоемким. Почти все, за исключением привилегированного меньшинства, пахали поля и доили коров.

Доля рабочей силы США на фермах сегодня - менее 2%.

Может быть, дети правы, используя ИИ. Может быть, мы - современные крестьяне. Просто наши клочки земли больше не растят пшеницу - они измеряются читателями, подписчиками и фолловерами. Если подумать, мы даже платим ренту «владыкам» платформ, на которых пишем.

Еда волшебным образом появляется на обеденном столе. Едва ли кто-то знает, как она производится. Может быть, то же произойдет с писательством. С музыкой. С картинами. С кодом. Где то, что мы делаем прямо сейчас, будет восприниматься как излишнее, архаичное.

Можете ли вы представить мир, где ИИ пишет книги по запросу? Где вместо поиска приложения для списка дел вы просто генерируете его?

Пока одни боятся этого будущего, другие уже используют нейросети как инструмент - не замену мышлению, а его усилитель.

Делегируйте часть рутинных задач вместе с BotHub!

Для доступа к сервису не требуется VPN, и можно использовать российскую карту.

Мне нравится пахать поля

Не знаю. Если это фермерство - мне нравится пахать поля. Хочу делать это до дня своей смерти.

И все же что-то беспокоит. Одно дело - просить ИИ проверить опечатки. Совсем другое - просить делать за тебя работу по написанию и мышлению.

Вот что пугает. В тот день, когда мы потеряем способность связывать воедино два осмысленных абзаца мыслей, мы потеряем что-то, что никакая машина никогда не сможет заменить.

Надеюсь, этот день никогда не настанет.