С появлением сначала больших генеративных языковых моделей, а затем и качественной видеогенерации, возникла настоящая путаница. Кто-то видит искусственный интеллект там, где он не был использован, а другие не замечают явное и заметное использование моделей.
Разбираемся, как устроена эта путаница, справляются ли алгоритмы лучше людей, как с этим пытаются бороться и в чём состоит опасность.
Важно, кто
Год назад исследовательский отдел новостного гиганта Reuters провёл интересный опрос в США, Великобритании и Мексике. Он касался отношения населения к новостям, при написании которых различным образом использовался искусственный интеллект. Опрошенных попросили оценить два варианта действий новостных агентств — не результат, а именно сценарий создания.
В первом новость пишет в основном искусственный интеллект, а человек лишь кратко оценивает её и проверяет на элементарные ошибки. Во втором новость пишет сам человек, но при её создании пользуется генеративными моделями в разном виде: для фактчекинга, стилистических исправлений, подбора формулировок и так далее.
Вывод относительно очевиден, но интересен в цифрах: люди боятся искусственного интеллекта. Если первый вариант как комфортный оценили лишь 10% жителей Великобритании, то второй таковым назвали уже 40%. Как некофмортный — 63% и 27% соответственно, остальные ответы в обоих случаях были нейтральными.
Гигантский разрыв отношения при разной пропорции вклада моделей и человека в приблизительно одинаковый результат говорит о выраженном страхе наткнуться на фейки от языковых моделей, которые пока откровенно любят пофантазировать. А там, где есть страх, появляется и подозрение. В случае со вмешательством ИИ возникает опасность того, что люди начинают видеть генеративные модели даже там, где их нет.
Фантомный ИИ
Почему вообще существуют опасения по поводу ИИ? Компьютерная графика была с нами на протяжении долгого времени, а умельцы создавали с её помощью невероятно убедительный визуальный контент, и ни у кого не возникало вопросов. Даже сейчас никто не требует маркировать отредактированные с помощью визуальных редакторов изображения, но если в дело вмешивается искусственный интеллект, то ситуация сразу меняется.
Проблема здесь появляется сразу по нескольким причинам. Во-первых, генеративные модели работают значительно быстрее и способны создавать несопоставимо больший объём контента. При сильном желании существует возможность создавать настоящие информационные пузыри, в которых можно будет убеждать людей в том, что, например, в некотором здании произошёл пожар, которого на самом деле не было. Во-вторых, если редакторами пользовались люди, имеющие определённую подготовку, то ИИ доступен всем, а это почти автоматически исключает этику из подхода к его распространению. В-третьих, что тоже вытекает из массовости, снизилась роль «насмотренности». Контента стало так много, что профессионалов, способных раскусить генерацию, просто недостаточно.
Когда речь заходит о явлениях настолько массовых, в дело вынуждены вмешиваться крупные институции. Вы наверняка помните, как маркировку контента, созданного с помощью искусственного интеллекта, последовательно ввели корпорации Meta и Google, а затем за дело взялись и государства. Сейчас, например, на законодательном уровне существует маркировка в Китае, подобную инициативу обсуждают в России, а Евросоюз ищет общее решение.
При этом до сих пор не существует формальных критериев для определения того, что должно подвергаться маркировке, а что — нет. YouTube требует помечать реалистично показанных людей и действия, которых они не соврешали, изменения реальных событий или мест, генерацию реалистичных сцен, которые могут вводить в заблуждение и так далее. При этом он спокойно относится к анимации, явно нереалистичному контенту, цветокоррекции и визуальным улучшениям, сделанным в эстетических целях. При этом именно последние два пункта зачастую наиболее сложно поддаются определению в качестве последствий вмешательства ИИ.
Ложно позитивные
Из-за такого избирательного, но зачастую очень субъективного подхода люди нередко путаются в том, что вообще считать за результат работы искусственного интеллекта. За примером далеко ходить не надо — в комментариях ‘98mag встречались подозрения по поводу создания материалов с помощью искусственного интеллекта, в том числе в текстах, в которых он не использовался вообще.
Это нельзя ставить в вину комментаторам, потому что они живут в новом мире, где любую информацию можно подозревать в сгенерированности. Сегодня мы уже знаем, что даже те, кто научились отличать тексты одной модели, часто испытывают сложности при попытках опознать тексты другой модели или отличить их от чего-то, что делают люди.
Последнюю проблему разделяют также специализированные модели, созданные, чтобы опознавать ИИ-контент. Проблема в том, что они всё равно обучаются на определённой выборке, а значит находят какие-то закономерности, преимущественно стилистические. В исследованиях отмечается, что люди занимаются абсолютно тем же самым — например, считают, что слишком «гладкий», сухой и недостаточно эмоциональный текст обязательно сгенерирован ИИ, то есть строят свои предположения на стилистических или терминологических предпочтениях авторов. Последние, важно помнить, могут быть людьми. По разным оценкам показатель ошибок может достигать от 15 до 30%, а это очень значительное число.
Этот текст тоже написан с помощью искусственного интеллекта. В качестве маленького интерактива можете попробовать угадать, где именно и каким образом он был использован. Не исключено, что процент его воздействия покажется большим, чем он был на самом деле.
Почему это проблема
Наибольшую проблему и настоящую угрозу для всего человечества представляет путаница искусственного интеллекта и человеческого производства в образовании и науке, потому что именно там авторство обладает наибольшей ценностью. Как это часто бывает с ИИ, всё упирается в проблему атрибуции созданных материалов. Научные карьеры наиболее талантливых студентов и аспирантов могут быть порушены ложно-положительными тестами на искусственный интеллект от преподавателей, экспертов, оппонентов в диссертациях и даже программного обеспечения, призванного для решения этой проблемы, но де-факто её не решающего.
Но ещё новая привычка людей видеть искусственный интеллект там, где его нет, угрожает креативности, причём креативности в первую очередь литературной. Исследователи отмечают, что ошибки восприятия могут отталкивать писателей от попыток экспериментировать с новыми стилистическими подходами, поскольку это угрожает их карьере. Авторам приходится придерживаться некоторых устоявшихся канонов, чтобы не быть принятыми за странности ИИ.
С точки зрения журналистики, важной проблемой является снижение доверия к СМИ, особенно в случаях, когда речь идёт о профессиональных новостных редакциях — например, уже упомянутом Reuters. Сами же СМИ тоже становятся подвержены ошибкам из-за вероятности принять сгенерированную информацию за реальные новости, а это в свою очередь увеличивает издержки редакций, поскольку приходится больше времени и ресурсов тратить на фактчекинг.
Новые технологии несут новые возможности вместе с новыми рисками, но чрезмерная массовость как всегда создаёт неочевидные проблемы. Найдётся ли этому полноценное решение — вопрос времени, а пока остаётся только искать пути этических ограничений, консенсусов и договорённостей.
P.S. ИИ был использован в тексте при поиске информации, сам текст полностью написан человеком.
