«А это точно не ИИ писал?» — новая паранойя в культуре текста

«А это точно не ИИ писал?» — новая паранойя в культуре текста

Если текст читается подозрительно гладко, значит, его написал ИИ. Если с ошибками и разбросами мыслей — наверное, тоже ИИ. Дошло до того, что просто написать текст уже недостаточно — его ещё надо доказать.

Текст под подозрением

С тем, как языковые модели стали выдавать неплохой смысл и стиль, мы начали подозревать друг друга в слишком красивой речи. Но смешное в другом: пока мы ищем шаблоны и слишком гладкую грамматику, сам человек постепенно подражает нейросети: пишет чисто, по схеме, без риска.

Стоит ли страшиться? Зависит, от контекста и ситуации.

Реальный кейс: журналист из Уайоминга и сила фантазии

Летом 2024 года в Америке вскрылся кейс, который в любой другой профессии пошёл бы как фокус. Журналист из штата Уайоминг сделал целую серию материалов, где каждая цитата от властей была выдумана. Красиво, корректно, по существу. И всё было бы хорошо, если бы он не использовал ChatGPT для этого сюра.

Когда это всплыло, он уволился сам. А мы узнали узнали главное: можно не просто писать тексты с помощью ИИ, но ещё и придумывать за других. А это всё-таки другой жанр.

Образование на взводе

Если где-то и обеспокоены авторством текстов, так это в школах и университетах. Учителя и преподаватели теперь больше следят не за тем, что написано, а кто это написал. В университетах США и Европы появляются целые комиссии по академической честности с новым словарём: prompt engineering, detection, AI-generated plagiarism.

Школьники в Британии попадают под подозрение за сочинения, которые «слишком взрослые». В Австралии школы требуют сдавать эссе от руки. В России тоже не отстают — некоторые вузы требуют защиту курсовых устно, чтобы понять, действительно ли студент что-то писал.

В одной из серий 26 сезона South Park школьники используют ChatGPT, чтобы делать домашку и отвечать на сообщения от подружек. И всё бы ничего — пока не выясняется, что часть самой серии написана тем же самым ChatGPT. Без шуток: в титрах честно стоит «Written by Trey Parker and ChatGPT».

Это тот случай, когда сатира умудряется быть точнее новостей. Авторы не осуждают и не восхищаются — они просто показывают, как это выглядит: дети обманули школу, ИИ обманул зрителя, и в итоге всё закончилось моралью, которую тоже выдал ChatGPT. Круг замкнулся.

Где ещё это важно

Помимо образования, волна недоверия к текстам докатилась до HR, юристов и PR. Резюме, написанные ИИ, распознаются по шаблонной структуре и общим фразам. Юристы проверяют юридические документы на машинное происхождение — иначе можно нарваться на «обобщённые советы», не имеющие юридической силы. PR-тексты из серии «наш бренд стремится к инновациям» уже почти приговор: либо писал ИИ, либо вдохновлялся.

Как определить, что текст сгенерирован

Сейчас есть несколько инструментов, которые пытаются угадать, кто автор — человек или нейросеть. Они не дают 100% уверенности, но могут навести на след:

  • GPTZero — анализирует текст и показывает, насколько он «человеческий». Чем ниже процент, тем больше шансов, что писал ИИ.
  • ZeroGPT — даёт вероятность, что текст сгенерирован, и показывает «искусственные» фрагменты.
  • Originality.ai — платный, но популярный среди редакторов и преподавателей. Тестирует на ИИ и на плагиат одновременно.
  • CrossPlag AI Content Detector — предлагает процент вероятности генерации, удобен для образовательных целей.

Сейчас эти сервисы работают лучше с английским, но постепенно учатся и другим языкам. Хотя пока нейросети учатся быстрее.

Точно не ты?

Умеете отличать тексты ИИ от человеческих? Сейчас это почти отдельный навык. Кто-то оценивает стиль, кто-то грамматику, кто-то чутьё. Но по большому счёту это пока больше искусство, чем наука. Использовать ChatGPT умеют почти все, а детективов пока не хватает.

Что почитать по теме

Поделиться: