Известный европейский журналист временно отстранен от работы после признания в публикации десятков сгенерированных ИИ цитат как подлинных заявлений в своих статьях. Петер Вандермерш, бывший генеральный директор Mediahuis Ireland и в настоящее время научный сотрудник в области журналистики, признался в использовании инструментов ИИ, таких как ChatGPT и Perplexity, для обобщения отчетов, не подозревая, что системы фабрикуют заявления и приписывают их реальным лицам.
Разоблачение Фабрикации
Расследование нидерландской газеты NRC показало, что Вандермерш вставлял сгенерированные ИИ цитаты в 15 из 53 статей, опубликованных на двух веб-сайтах Mediahuis. Семь опрошенных лиц подтвердили, что никогда не делали заявлений, которые им приписывались. Эти сфабрикованные цитаты были представлены как подлинные, что вызывает обеспокоенность по поводу журналистской честности и надежности репортажей с использованием ИИ.
Почему Это Имеет Значение
Этот инцидент подчеркивает критическую проблему в современной журналистике: опасность непроверенного контента, сгенерированного ИИ. Языковые модели, такие как ChatGPT, все чаще способны производить убедительную, но полностью ложную информацию. Журналисты, которые полагаются на эти инструменты без тщательной проверки фактов, рискуют распространять дезинформацию. Этот случай также поднимает вопросы о давлении на журналистов, вынуждающих их быстро производить контент, что потенциально приводит к обходным путям, компрометирующим точность.
Признание Вандермерша
Вандермерш признался, что первоначально доверял результатам ИИ, описывая их как «неотразимые цитаты», которые было соблазнительно использовать. Он впервые обнаружил эту проблему в прошлом году, но в то время не стал исправлять ошибки. Позже его энтузиазм по поводу ИИ уменьшился, поскольку он осознал его несостоятельность.
«Это было не только небрежно, это было неправильно», — написал Вандермерш в своем блоге. «Особенно болезненно то, что я совершил именно ту ошибку, о которой неоднократно предупреждал коллег: эти языковые модели настолько хороши, что производят неотразимые цитаты, которые вам хочется использовать как автору».
Несмотря на отстранение, Вандермерш по-прежнему использует ИИ для таких задач, как перевод и мозговой штурм, но с «гораздо меньшим наивным доверием».
Будущее ИИ в Журналистике
Этот инцидент служит предостережением для новостных организаций. Хотя ИИ может быть ценным инструментом для журналистов, человеческий надзор и проверка фактов остаются необходимыми. Этот случай подчеркивает необходимость четких рекомендаций по использованию ИИ в новостных редакциях, а также постоянного обучения журналистов тому, как проверять контент, сгенерированный ИИ.
В конечном счете, эта полемика демонстрирует, что даже опытные журналисты могут стать жертвами обманных возможностей ИИ, что подтверждает критическую важность скептицизма и проверки в все более автоматизированном мире.
