Для чего нужна ИИ

Заражающая субстанция ИИ

Я давно перестала воспринимать ИИ как технологию — я вижу его как заражающую субстанцию. Меня не покидает мысль, что для проекта с такими баснословными инвестициями, который может работать без прибыли так долго в нынешней фазе дикого капитализма, главной целью может быть вовсе не получение прибыли. Одна из центральных задач ИИ — заражать. Речь не только о уже известном ущербе для окружающей среды от безудержного строительства дата‑центров. Я вижу, как он заражает дискурс, наш язык, то, как мы говорим, что пишем, что создаём, о чём думаем, как видим мир и как смотрим на самих себя. Не нужно даже быть сторонником или пользователем ИИ, чтобы подвергнуться его заражению. Сколько раз мы передумывали свою запись, боясь, что подумают, будто это написал робот? Сколько раз мы переставали смеяться над чем‑то, узнав, что это сделано с помощью ИИ? Зачем вкладывать столько усилий, чтобы сделать эту технологию всё более и более реалистичной, до неотличимости от реальности или от человеческой работы, если не для того, чтобы обмануть, запутать, посеять недоверие? ИИ создан, чтобы заставлять нас сомневаться друг в друге, сомневаться в самих себе, в собственной способности думать или выполнять простые задачи без его помощи. ИИ превосходно годится для того, чтобы разъедать человеческие связи. Чтобы ещё сильнее нас изолировать. Зачем сотрудничать с кем‑то, если можно попросить машину сделать это? Зачем нанимать ученика, если машина справится с работой? Зачем работать вместе, зачем просить совета у друга, зачем иметь учителя или терапевта, если машина у твоего распоряжения? Никогда это не была инструмент в нашей службе. Она служит иным целям. Делать нас всё более изолированными, параноидальными, разгневанными и сбитыми с толку очень выгодно фашизму, ультраправым силам, которые всё больше захватывают пространства в щелях нашего внимания, в трещинах нашей усталости.

Заражение интернета

Как заражать интернет, например. Такой визуальный мусор, столько бессодержательного контента и дезинформации выливают в него с такой головокружительной скоростью, что он становится непригодным для обитания. ИИ — часть акции по выселению. Он также служит для того, чтобы мы почувствовали себя лишёнными опоры. Он просачивается в стены, пока не разрушит конструкции, пока всё не обрушится. Пока интернет — инструмент, когда‑то служивший для связи людей, мобилизации, доступа к информации и обмена знаниями — не станет непригодным; безвредным. Для тех, кому ИИ действительно служит, похоже, кое‑какие вещи важнее прибыли.

Подражание и давление

Меня воспитали так: мать, учителя, взрослые говорили — «кто живёт мыслями других, тот и вошь» или «если она прыгнет с моста, ты тоже прыгаешь?». Всё это, чтобы во взрослом возрасте видеть так много людей, просто делающих то, что делают все. Я поражена. Неразумна потребность принадлежать, не быть в стороне. Использовать этот человеческий импульс принадлежности, чтобы заточить нас в определённые модели производства и потребления, где нас выжимают ради прибыли, которую мы никогда не увидим, — это подлость. Мы, в конце концов, подражающие существа. Трудно устоять перед тягой к подражанию. Ещё сложнее, когда наши ресурсы истощаются, наши стратегии перестают работать, когда то, что нам нравится делать, уже не продаётся. Я могу понять чудовищное давление, которое заставляет лидера мнений или креатива просто адаптироваться к модной технологии, повторять то, что приносит успех, соглашаться на сделки с крупными платформами и производить контент, который им выгоден.

Сила давления

Сделка такова: делай то, чего хотят платформы, или рискуй исчезнуть, быть похороненным лавиной посредственности — вещей, сделанных не из собственной воли, а из отчаяния, чтобы не остаться в стороне. Это давление — сила не менее порочная, чем цензура. Ведь здесь никто прямо не запрещает делать то, что хочешь; вместо этого внушается мысль: если ты впишешься в формат, если повторишь формулу, если будешь производить с определённой частотой, может быть, когда‑нибудь тебя наградят и ты останешься в игре ещё на один раунд? И тогда ты принимаешь сделку. Думаешь: ладно, сделаю. Со временем перестаёшь думать о том, что у тебя есть сказать, о том, что возбуждает тебя творчески; вместо этого твои мысли занимают бездонные запросы машины: чего хочет алгоритм? Как он хочет? Сколько он хочет? Что ещё нужно сделать, чтобы мои цифры выросли? И очень скоро выясняется, что он ненасытен. Всегда будет мало, всегда почти. Ты никогда не успеешь удовлетворить спрос с той скоростью, с какой он появляется. Надо делать больше, быстрее. Надо производить в промышленных масштабах, сверх наших возможностей. Приходит истощение, выгорание. Ты сгораешь, потому что становишься топливом беспощадной машины по производству «сосисок».

Проблема глубже

Я выучила в рекламе, что продукт должен решать проблему. Если проблемы нет, её придумывают. Мы принимаем скорость мира вокруг нас за природное явление, а не за искусственно созданную. Из этого рождения продукта, призванного решить проблему — как кстати! — появляется волшебный инструмент, обещающий сделать скучную часть работы, чтобы ты мог делать больше за меньшее время. Это всё, что тебе нужно, чтобы наконец достичь эффективности, оптимизировать метрики, ускорить процесс; всё идёт так быстро, что ты уже и не помнишь, зачем вообще нужно было так спешить. Проблема глубже, чем просто принять или не принять использование ИИ в наших процессах. Утерян вопрос: как мы по‑прежнему управляемся интересами и волями, чуждыми нам? Стоит ли отказываться от собственной рабочей этики (в смысле способа делать), от собственных желаний, только чтобы ловко поймать новую волну? Эта логика действует не сегодня. ИИ её не изобрёл — как, впрочем, он не способен ничего изобретать.

Искать свой путь

Если уж говорить о логике, давайте применять её. «Кто не будет пользоваться ИИ, отстанет», — говорят. Но следовать моде и делать то, что делают все — это как раз определение отставания. Тот, кто лишь следует, не может быть впереди. Быть впереди — значит искать свой путь, отрываться от стада и выходить исследовать неизвестность, ощупываясь в темноте. Никто не прошёл там прежде и не указал дорогу. Быть впереди дорого. Это может быть одиноко и пугающе. «Кто не будет пользоваться ИИ, отстанет», — говорят. Ладно, иди вперед. Прыгай с моста. Я останусь здесь наблюдать.

Изображения, сопровождающие этот текст, взяты из фильма «Бегущий по лезвию». Писательница, иллюстраторка, ведущая, любопытная. Никогда не доверяйте рассказчику.