Исследователи в ведущих мировых лабораториях искусственного интеллекта оттачивают технологии, которые имитируют, как пишут люди. Новая технология может помочь кампаниям по дезинформации остаться незамеченными, генерируя огромное количество фальшивых сообщений.
В последние месяцы две лаборатории ─ OpenAI в Сан-Франциско и Институт искусственного интеллекта Аллена в Сиэтле ─ создали мощные примеры этой технологии.
Алек Рэдфорд, исследователь из OpenAI, предупреждает от опасности эффективного распространения дезинформации: «Вместо того чтобы нанимать людей для написания и распространения пропаганды, эти организации могут опираться на машины для создания правдоподобного и разнообразного контента в огромных масштабах».
Поддельные посты в Facebook, увиденные миллионами, могут быть адаптированы к политическим убеждениям с помощью простого изменения.
«Уровень информационного загрязнения, который может случиться с такими системами через несколько лет, может стать просто удивительным», ─ сказал Рэдфорд.
Этот тип технологии изучает причуды языка, анализируя огромное количество текста, написанного людьми, в том числе тысячи самостоятельно опубликованных книг, статей в Википедии и другого интернет-контента. После «обучения» всех этих данных он может просмотреть небольшую строку текста и угадать, что будет дальше.
«Существует реальная угроза от непроверенных систем генерации текста, особенно с учетом того, что технология продолжает развиваться», - сказал Делип Рао, вице-президент по исследованиям в AI Foundation из Сан-Франциско, который специализируется на выявлении ложной информации в Интернете.
Технические гиганты, такие как Facebook, борются с дезинформацией, но искусственный интеллект становится все более мощным. Эксперты опасаются, что ложные новости, создаваемые ИИ, могут сделать проблему более масштабной и сложной для решения.
Киберпреступлений становится всё больше, ранее мы писали, что 4 из 10 киберпреступников работают на крупные компании.
текст: Ольга Кислинская