Близько одного з п'ятнадцяти дорослих стикався з аб'юзом, скоєним за допомогою зображень, створених штучним інтелектом, згідно з новим дослідженням. Про це УНН пише з посиланням на Phys.org.
Деталі
Опитування понад 7200 дорослих у США, Великій Британії та Австралії показало, що 7% з них стикалися як мінімум з однією формою аб'юзу, що здійснюється за допомогою зображень, створених штучним інтелектом, після досягнення 18 років.
Це включало створення або зміну інтимного зображення з їх участю за допомогою ШІ без їхньої згоди, розповсюдження інтимного зображення, створеного ШІ, без їхньої згоди або погрози поширення такого зображення.
Майже 87% постраждалих повідомили щонайменше про один наслідок цього явища у своєму житті, включаючи вплив на здоров'я та благополуччя, відносини, роботу чи фінанси.
Провідний автор дослідження Нікола Генрі, професор Університету RMIT в Австралії, провела дослідження за підтримки Google і заявила, що результати показують масштаби аб'юзу в суспільстві загалом.
"Тепер у нас є докази того, наскільки широко аб'юз, заснований на зображеннях, створених за допомогою ШІ, впливає на людей у суспільстві загалом, а не лише знаменитостей та громадських діячів", – сказала вона.
"Реальний масштаб може бути ще більшим, тому що деякі люди можуть ніколи не дізнатися, що зображення, створені за допомогою ШІ, були створені або поширені", – додала вона.
Вищі показники аб'юзу, створеного за допомогою ШІ, були відзначені серед людей молодших 35 років, представників расових та етнічних меншин, чоловіків та людей з інвалідністю.
Чоловіки повідомляли про випадки аб'юзу більш ніж удвічі частіше, ніж жінки: 10,2% проти 3,8%.
Однак жінки повідомляли про більш негативні реакції та наслідки, включаючи страх за свою безпеку та вплив на їхнє психічне та фізичне здоров'я. Це може відображати ширшу гендерну нерівність, стигму та ризики для безпеки, з якими жінки стикаються непропорційно частіше.
Генрі сказала, що результати показують, що будь-хто може постраждати від цього аб'юзу, але як ризик зіткнутися з ним, так і його наслідки розподілені нерівномірно.
"У міру того, як генеративний ШІ стає все більш доступним, зростає потенціал зловживання цими інструментами для створення, розповсюдження або загрози розповсюдження інтимних зображень без згоди", – сказала вона.
"Ми поки що не знаємо, наскільки швидко це призводить до збільшення кількості жертв", – зазначила вона.
Останні результати, опубліковані у International Journal of Human-Computer Interaction, ґрунтуються на двох попередніх дослідженнях, які використовують той самий міжнародний набір даних.
Одне з попередніх досліджень показало, що 3,2% респондентів повідомили про створення, розповсюдження або загрозу поширення ШІ зображень сексуального характеру без згоди.
Серед тих, хто поширював матеріал, найбільш часто вказуваною мотивацією було "заради розваги або жартома".
Інше дослідження показало, що майже кожен п'ятий дорослий навмисне переглядав згенеровані ШІ зображення сексуального характеру за участю реальних людей, за винятком тих, хто робив це виключно для того, щоб повідомити про матеріал або видалити його.
Генрі заявила, що результати дослідження зміцнили аргументи на користь більшої відповідальності технологічних компаній за запобігання зловживанням, пов'язаним із зображеннями, створеними за допомогою ШІ, до того, як вони відбудуться.
Співавтор, доктор Ребекка Умбах, штатний дослідник користувальницького досвіду Google, заявила, що результати дослідження надали важливі нові докази цієї форми зловживань.
Регулятор ЄС розпочав розслідування щодо чат-бота X Маска через сексуалізовані ШІ-зображення17.02.26, 08:48 • 4762 перегляди
Довідково
Аб'юз, за визначенням представників соціальних служб, – це будь-яка форма насильства або жорстокого поводження, що завдає шкоди фізичному, психологічному, емоційному чи фінансовому благополуччю людини. Це не завжди фізичні ушкодження, аб'юз може бути прихованим.
