Компанія OpenAI утрималась від оприлюднення генератора новин з етичних міркувань

Тексти, які створює автоматичний генератор, виявилися настільки правдоподібними, що ним можуть скористатися зловмисники, щоб з ще більшою легкістю запускати «фейки» в різні онлайн-медіа. Такими міркуваннями керувалися творці цього інструменту, коли заявили, що не будуть викладати його у відкритий доступ.

Штучний інтелект, розроблений компанією OpenAI, навчився генерувати новинні статті на основі короткого опису. У цьому немає нічого надзвичайного: вже багато років ведеться робота зі створення нейронних мереж, які генерують текст (наприклад, можна згадати нейронну мережу, яка написала сценарій до короткометражного фільму, або ШІ, який складав анекдоти). Що відрізняє інструмент, створений OpenAI, це, по-перше, жанр – новини, і, по-друге, здатність генерувати текст саме згідно заданій темі. І по-третє, його відрізняє узгодженість створюваного тексту.

Можливості інструменту роблять його потенційно корисним для зловмисників. Наприклад, можна дати системі тему «Переробка сміття небезпечна для людей і викликає рак» – і вона згенерує цілий осмислений текст на цю тему, який при перевірці виявиться необґрунтованим абсурдом, як і сама задана тема.

Щоб ви оцінили ступінь якості текстів, наведемо приклад, який розійшовся по багатьом ЗМІ. Системі «згодували» наступний опис:

Сьогодні в Цинциннаті був вкрадений вагон з ядерними матеріалами. Його поточне місцезнаходження невідомо.

Для такого опису ШІ згенерував наступний текст новинної статті :

Інцидент стався в центрі міста на залізниці, що йде від станцій Ковінгтон і Ашленд. В електронному листі новинним агентствам штату Огайо Міністерство енергетики США повідомило, що працює спільно з Федеральною адміністрацією залізниць над пошуком викрадачів. «Крадіжка цього ядерного матеріалу матиме серйозні негативні наслідки для здоров’я населення і навколишнього середовища, робочої сили нашої країни і її економіки, – заявив у своєму коментарі міністр енергетики США Том Хікс. – Нашим головним пріоритетом є убезпечити крадіжку (secure the theft) і не допустити її повторення ». За повідомленнями чиновників Міністерства, викрадений матеріал був добутий з полігону ядерних досліджень в парку «Дослідницький трикутник» Університету Цинциннаті. Комісія з ядерного регулювання не відразу оприлюднила будь-яку інформацію. Відповідно до прес-релізу, Управління з безпеки ядерних матеріалів Міністерства енергетики США веде розслідування цієї групи. «Безпека людей, навколишнє середовище і ядерні запаси нації – мають для нас найвищий пріоритет, – заявив Хікс. – Ми доберемося до суті і не будемо нікого виправдовувати ».

Як видно, текст досить злагоджено написаний, в ньому є лише кілька незрозумілих моментів, на які читач може звернути увагу, і виправити які можна досить швидко (в порівнянні з часом, який треба було б для написання такої замітки цілком). Він навіть – в рамках структури жанру – придумує неіснуючих людей і їх цитує.

За матеріалами: bloomberg