США та росія домоглися послаблення низки запропонованих обмежень на використання штучного інтелекту у смертоносній автономній зброї. Зокрема, з документа прибрали вимогу, за якою людина мала перевіряти обрану ШІ військову ціль перед ударом, повідомляє The Washington Post, пише УНН.
Деталі
Йдеться про переговори в ООН щодо майбутніх міжнародних правил застосування автономної зброї. За даними видання, вони стали найбільшим за останні роки просуванням до потенційної глобальної угоди у цій сфері.
Однак під час фінального етапу переговорів американська та російська делегації домоглися вилучення одразу кількох запобіжників. Зокрема, з тексту прибрали вимоги, щоб системи працювали "передбачувано" та "надійно", а також положення про врахування етичних аспектів застосування бойового ШІ.
Чим це може загрожувати людям
Найбільше занепокоєння викликало вилучення положення, яке передбачало перевірку людиною військової цілі, визначеної штучним інтелектом, перед завданням удару.
Керівники провідних AI-компаній попередили ООН про ризики штучного інтелекту для людства24.09.26, 11:06 • 4842 перегляди
Простими словами, йдеться про ризик появи бойових систем, у яких алгоритм зможе самостійно знаходити та обирати ціль, а людський контроль над остаточним рішенням буде слабшим або взагалі не буде гарантований міжнародними правилами.
Це може означати, що машини зможуть приймати рішення про життя та смерть без контролю людини
– заявила представниця Human Rights Watch Веріті Койл.
За її словами, наслідками можуть стати більша кількість жертв серед цивільних, складність із визначенням відповідального за помилковий удар та швидший перехід до автоматизованої війни.
Особлива небезпека полягає у швидкості таких систем. Якщо держави масово розгорнуть автономну зброю, алгоритми потенційно зможуть виявляти цілі та реагувати значно швидше за людей. У разі помилки, хибної ідентифікації або некоректних даних часу на втручання людини може залишитися значно менше.
Британські компанії використовуватимуть дані з поля бою в Україні для розробки дронів на базі ШІ25.09.26, 14:49 • 5482 перегляди
