Із застосуванням інструментів штучного інтелекту, які здатні швидко створювати фальшиві зображення та відео, виготовлення фейкових політичних матеріалів перед майбутніми президентськими виборами в США стало значно простішим. За інформацією Bloomberg, компанія Midjourney розглядає можливість повного заборонення політичних зображень. Зазначається, що Девід Хольц, генеральний директор Midjourney, повідомив учасників чату на платформі Discord, що компанія розглядає можливість заборонити такі зображення, як портрети Байдена і Трампа, протягом наступних 12 місяців.
Як зазначає Bloomberg, раніше люди вже використовували штучний інтелект компанії для створення фейків про арешт Трампа. Компанія припинила безкоштовні випробування свого ШІ-генератора зображень після того, як ці зображення – разом із сумнозвісними фейками про Папу Римського, одягненого в пальто в стилі Баленсіаги, – стали вірусними.
Наразі в компанії вже діють правила, що забороняють створювати “публічних осіб, що вводять в оману”, і “зображення подій”, які “можуть ввести в оману”. Однак Bloomberg все ще зміг створити модифіковані зображення Трампа, вкритого спагеті, використовуючи стару версію системи Midjourney, тоді як нова версія відмовилася генерувати модифіковані зображення колишнього президента. Звісно, навіть якщо Midjourney заборонить зображення відомих політиків, вона лише захистить свою платформу від того, щоб не викликати гнів критиків і не опинитися в центрі уваги цього виборчого сезону. Це не завадить використанню інструментів штучного інтелекту в політичних дезінформаційних кампаніях або поширенню фейкової інформації для маніпулювання виборами в цілому.
Інші технологічні компанії також вжили заходів, щоб запобігти політичній дезінформації або принаймні полегшити її виявлення. ChatGPT незабаром почне тегувати зображення, створені за допомогою DALL-E 3, а Meta працює над розробкою технології, яка може виявити й позначити, чи було зображення, відео або аудіокліп створено за допомогою штучного інтелекту.
