Лживые нейросети подрывают доверие к прессе и власти
Нейросеть, созданная учеными из Вашингтонского университета и Института Аллена по изучению ИИ, научилась писать фейковые новости, которые не отличить от настоящих без кропотливого анализа.
К примеру, о том, что в США появилась фирма по добыче полезных ископаемых на Луне. По мнению доцента Института Аллена Йечжин Чу, люди сильно облегчили нейросетям генерирование фальшивых новостей. Образцов, кажущихся вероятными пропагандистских статей, в мире уже много.
Хорошая новость – выявить фейк, созданный нейросетью, пока возможно. Так, в приведенной статье нейросеть пишет о не существующем в реальности «гравитационном тракторе/тягаче». Это космический аппарат, пока лишь предсказанный в теории. Зато он часто упоминается в прессе. Нейросеть цитирует несуществующих экспертов из несуществующих компаний, названия которых были скомбинированы из настоящих. Встречаются в тексте нейросети и логические и смысловые противоречия между абзацами и грамматические ошибки (небольшие).
Все эти недостатки возмещаются дешевизной и простотой генерирования фейк-ньюс. По словам участницы исследования Сары Крепс из Корнеллского университета, огромные объемы синтезирования дезинформации не просто реальны, но правдоподобны и дешевы. Продвижение такого материала в интернете открывает большие возможности дезинформирования населения. Еще одна опасность: если народ не поверит тем или иным фейковым новостям, то одно их существование снижает доверие к тому, что говорит пресса и власти.
К примеру, о том, что в США появилась фирма по добыче полезных ископаемых на Луне. По мнению доцента Института Аллена Йечжин Чу, люди сильно облегчили нейросетям генерирование фальшивых новостей. Образцов, кажущихся вероятными пропагандистских статей, в мире уже много.
Хорошая новость – выявить фейк, созданный нейросетью, пока возможно. Так, в приведенной статье нейросеть пишет о не существующем в реальности «гравитационном тракторе/тягаче». Это космический аппарат, пока лишь предсказанный в теории. Зато он часто упоминается в прессе. Нейросеть цитирует несуществующих экспертов из несуществующих компаний, названия которых были скомбинированы из настоящих. Встречаются в тексте нейросети и логические и смысловые противоречия между абзацами и грамматические ошибки (небольшие).
Все эти недостатки возмещаются дешевизной и простотой генерирования фейк-ньюс. По словам участницы исследования Сары Крепс из Корнеллского университета, огромные объемы синтезирования дезинформации не просто реальны, но правдоподобны и дешевы. Продвижение такого материала в интернете открывает большие возможности дезинформирования населения. Еще одна опасность: если народ не поверит тем или иным фейковым новостям, то одно их существование снижает доверие к тому, что говорит пресса и власти.
Дата публикации: 2019-10-16
Источник: КоммерсантЪ
Источник: КоммерсантЪ