Представители корпорации «OpenAI» недавно сообщили о том, что им удалось создать ИИ, который может самостоятельно генерировать тексты на определенную тематику. Изначально специалисты предполагали, что новая возможности GPT-2 (самого опасного искусственного интеллекта) будут ограничены переводом текстовых данных на разные языки и ответов на вопросы. Но исследование показано, что компьютерная модель представляет серьезную опасность.
ИИ GPT-2 был разработан на базе 8 млн интернет-страниц. Тексты, которые на них созданы, будут лежать в основе создания новых текстовых материалов на определенную тематику.
Например, ИИ может:
- написать эссе о плюсах переработки отходов;
- создать новость из разряда «желтой прессы»;
- создать рассказ практически в любом стиле.
Но недавно разработчики обнаружили, что компьютерная модель способна самостоятельно создавать ложные новостные темы, связанные с катастрофами, звездами шоу-бизнеса и кино, а также военными конфликтами.
На настоящий момент инструментом для генерации текстового контента могут воспользоваться лишь сами разработчики и ряд авторов из компании «MIT Technology Review». Специалисты решили не размещать его в свободном доступе, иначе он может вызвать такие проблемы:
- опубликовать «фейковые» новости в соцсетях;
- ввести в заблуждение поклонников звезд;
- вызвать более серьезные последствия.
Создатели новинки отмечают, что лингвистическая модель пока далека от идеала, так как система в некоторых случаях пользуется повторами текстовых фрагментов и может давать сбои при моделировании. Так, например, во время тестирования ИИ создал фрагмент текста про огонь, который горит под поверхностью воды.
Глава отдела по внешней политике компании Джек Кларк сообщил журналистам, что через несколько лет эта компьютерная модель может стать крайне опасным оружием создания хаоса в социуме.
