Правдивая история: генератор фальшивых новостей, созданный исследователями нейронных сетей, стремится бороться с дезинформацией

Время на прочтение: 4 минут(ы)


https://www.ispeech.org

В битве за превосходство ИИ лучшая защита - это нападение.

Это философия Grover , приложения, созданного на основе нейронной сети, которое борется с дезинформацией, так называемыми фейковыми новостями (Fake News), создавая свои поддельные новости.

«Мы должны быть на шаг впереди от потенциального неправильного использования», - сказал Йеджин Чой, профессор Вашингтонского университета и ведущий автор проекта , который был результатом сотрудничества исследователей из UW и Института искусственного интеллекта Аллена (AI2).

Чой сказал, что, хотя сегодняшние поддельные новости в основном пишутся людьми, эпоха поддельных новостей, создаваемых нейронными сетями, не за горами. В этой среде люди с лучшим генератором поддельных новостей также имеют лучший детектор поддельных новостей. Подход Grover аналогичен подходу, который используют профессионалы в области кибербезопасности, которые регулярно атакуют свои собственные системы, чтобы обнаружить слабые места.

Удивительно реалистичный новостной движок Grover имитирует стиль и тон конкретных публикаций и авторов. Исследователи утверждают, что инструмент обнаружения в 92% случаев отличал разницу между написанными человеком новостями и машинными новостями. Вместо того, чтобы смотреть на одно слово, которое может быть неуместным, модель идентифицирует статистические закономерности в общем тексте, чтобы решить, является ли часть письма фальшивой или нет.

Исследователи сделали генератор открытым для общественности. Мы проверили его, попросив создать статью GeekWire с заголовком «Microsoft reportedly in talks to purchase Nintendo», и получившаяся статья была очень реалистичной.

Вот что придумал Grover:

Microsoft reportedly in talks to purchase Nintendo
May 29, 2019 – Nat Levy

(Fake article)

Bloomberg reported Wednesday that Microsoft is in talks to buy Nintendo for about $60 billion in cash.

Microsoft’s shares rose 4.6 percent to $122.96, closing at the highest price since December 31, 2017. Nintendo’s stock was also up 5.9 percent to $119.84. Both jumped more than 10 percent.

A deal between the companies is reportedly being discussed for between $120 and $130 per share. Sources tell Bloomberg that talks could fall apart at any time.

Representatives for Microsoft and Nintendo could not be reached immediately for comment.

[Update: CNBC reported that the two companies are in a private, high-level negotiation, with the $30 billion ask on the table and the other asking for at least $100 billion. Bloomberg said that reported is not accurate.]

Nintendo is famed for its role in the video game industry with its arcade and game systems, including the company’s Switch console, which has racked up sales of more than 50 million units worldwide. A deal could raise questions about whether Microsoft’s vision for gaming centers on software and other digital means, instead of physical consoles like Nintendo’s hardware.

The two companies have not collaborated on a video game in decades, as Microsoft typically prefers to stay away from hardware and instead relies on software, its Xbox gaming console being a classic example. The partnership would, however, put Nintendo’s iconic characters in Microsoft’s Xbox One and Windows products, as the Xbox recently grabbed the crown of the top console in the U.S. for the first time.

Nintendo created and publishes some of the most successful video games, and its characters are as loved as they are recognizable. Mario, Zelda, Donkey Kong and Link are among Nintendo’s most popular character franchises. The company has one of the top ten best-selling home consoles of all time.

It will be a tough sell for Microsoft, however, as the company is also focused on developing games and building a gamer-first approach to its technology products, with games particularly at the center of what it does. For Nintendo, it will keep the focus on game development instead of hardware, as its Wii U and 3DS consoles continue to flounder.

Вы также можете самостоятельно протестировать Grover по этой ссылке:

  • Чтобы создать поддельную новостную статью с помощью Grover, используйте вкладку «Generate». Заполните некоторые поля формы и нажмите «Generate» рядом с фрагментом, который вы хотите сгенерировать. Grover сгенерирует этот кусок на основе предоставленных данных. Например, если доменом является «nytimes.com», нажатие «Generate» для статьи создаст поддельное тело статьи, как если бы оно было написано для New York Times.
  • Чтобы определить, была ли статья написана Grover или человеком, используйте вкладку «Detect». Заполните поле ввода текстом статьи и нажмите «Detect Fake News».

Такие инструменты, как Grover, могут стать необходимыми для платформ социальных сетей, поскольку поддельные новости становятся все более автоматизированными и сложными. Буквально на этой неделе Twitter приобрел лондонский стартап Fabula AI, который создавал фальшивые новости, основываясь на том, как эти статьи распространяются в Интернете.

В своей опубликованной статье исследователи пишут, что угрозы, исходящие от противников, стремящихся распространять дезинформацию, «реальны и опасны». Они рекомендуют, чтобы новостные медиа-компании использовали аналогичную тактику нейронных сетей, используемую платформами, такими как YouTube, для обнаружения поддельных новостей.

«Ансамбль глубоко порождающих моделей, таких как Grover, может анализировать содержание текста - вместе с более поверхностными моделями, которые предсказывают дезинформацию, написанную человеком», - написали они. «Однако люди все еще должны быть в курсе событий из-за опасности пометить реальные новости как машинно-генерируемые и возможных нежелательных социальных предубеждений этих моделей».

Исследователи из OpenAI, некоммерческой исследовательской организации ИИ, поддержанной Илоном Маском, ранее в этом году отказались выпустить  собственный генератор текста, GPT-2, из-за «опасений по поводу вредоносных приложений». Некоторые критики жаловались, что решение нарушило клятву организации сделать её работу доступной для общественности. Позже OpenAI выпустил "облегчённую" версию своего инструмента на TalkToTransformer.com.

В дальнейшем Чой сказал, что экспертам по безопасности и исследователям искусственного интеллекта необходимо больше сотрудничества для создания защиты от дезинформации, создаваемой искусственным интеллектом.

По материалам: www.geekwire.com

Здесь самые популярные товары из Китая по волшебным ценам!

Похожие статьи:

Читайте также:  Бесконечная текстовая игра, которую пишет нейросеть

Оставить ответ

Ваш адрес email не будет опубликован. Обязательные поля помечены *