У 2020 році філософ з Оксфорда Тобі Орд опублікував книгу «Прірва» про ризик вимирання людства. Він оцінив можливість «екзистенційної катастрофи» для нашого виду в наступному столітті як 1 до 6. Це цілком конкретна цифра і вона тривожна. У той час ця заява потрапила в заголовки газет і з того часу дуже вплинула — зовсім недавно вона була висловлена австралійським політиком Ендрю Лі в промові в Мельбурні.
Важко не погодитися з ідеєю, що в найближчі десятиліття на нас чекають тривожні перспективи: від зміни клімату, ядерної зброї та біоінженерних патогенів (все це, на мій погляд, серйозна проблема) до неконтрольованого штучного інтелекту та великих астероїдів (які, на мою думку, викликають) менше занепокоєння).
Але що з цього числа? Звідки це? І що це насправді означає?
Підкидання монет та прогноз погоди
Щоб відповісти на ці запитання, нам потрібно спочатку відповісти на ще одне: що таке ймовірність?
Найтрадиційніший погляд на ймовірність називається частотністю і отримав свою назву від гри в кістки та карти. З цієї точки зору ми знаємо, що ймовірність того, що на чесному кубику випаде трійка, становить 1 із 6 (наприклад), спостерігаючи за частотою випадання трійок при великій кількості кидків.
Або розглянемо складніший випадок прогнозів погоди. Що це означає, коли метеоролог повідомляє нам, що ймовірність дощу завтра складає 1 із 6 (або 17%)?
Важко повірити, що метеоролог хоче, щоб ми представили велику сукупність завтра, в деякій частині яких випадуть опади. Натомість нам потрібно переглянути велику кількість таких передбачень і подивитися, що сталося після них. Якщо синоптик добре справляється зі своєю роботою, ми повинні побачити, що, коли він сказав: «Вірогідність дощу завтра 1 із 6», наступного дня насправді дощ йшов один раз із шести. Отже, традиційна ймовірність залежить від спостережень та процедури. Щоб його обчислити, нам потрібно мати набір подій, що повторюються, на яких можна ґрунтувати нашу оцінку.
Чи можемо ми повчитися у Місяця?
То що це означає для ймовірності вимирання людства? Що ж, така подія буде разовою: після того, як вона станеться, повторенням уже не буде місця. Натомість ми могли б знайти деякі паралельні події, на яких можна повчитися. Справді, у книзі Орда він обговорює ряд потенційних подій вимирання, деякі з яких потенційно можна вивчити у світлі історії.
Наприклад, ми можемо оцінити ймовірність зіткнення з Землею астероїда розміром з вимирання, вивчивши, скільки такого космічного каміння вдарилося про Місяць за його історію. Французький учений, на ім’я Жан-Марк Салотті зробив це у 2022 році, підрахувавши ймовірність досягнення рівня вимирання у наступному столітті приблизно 1 до 300 мільйонів.
Звичайно, така оцінка таїть у собі невизначеність, але вона підкріплена чимось, що наближається до відповідного розрахунку частоти. Орд, навпаки, оцінює ризик вимирання астероїда в 1 на 1 мільйон, хоч і відзначає значний ступінь невизначеності.
Система ранжування результатів
Є ще один підхід до теорії ймовірності, який називають байєсовством на честь англійського статистика Томаса Байєса. Він менше фокусується на самих подіях, а більше на тому, що ми знаємо, очікуємо та віримо про них. Простіше кажучи, ми можемо сказати, що байєсівці розглядають ймовірності як своєрідну рангову систему. З цього погляду конкретне число, надане ймовірності, не слід брати безпосередньо, а слід порівнювати з іншими ймовірностями, щоб зрозуміти, які результати більш-менш ймовірні.
Книга Орда, наприклад, містить таблицю потенційних подій вимирання та його особисті оцінки їхньої ймовірності. З байєсовської погляду ми можемо розглядати ці значення як відносні ранги. Орд вважає, що вимирання від удару астероїда (1 на 1 мільйон) набагато менш ймовірне, ніж вимирання від зміни клімату (1 на 1000), і обидва вони набагато менш ймовірні, ніж вимирання від того, що він називає «неприв’язаним штучним інтелектом» (1 на 10).).
Складність тут у тому, що початкові оцінки байєсівських ймовірностей (часто звані апріорними) досить суб’єктивні (наприклад, я б оцінив ймовірність вимирання на основі ШІ набагато нижче). Традиційна байєсовська міркування переходить від «апріорного» до «апостеріорного», знову включаючи дані спостережень про відповідні результати для «оновлення» значень ймовірності.
І знову ж таки, результати, що стосуються ймовірності вимирання людства, невеликі.
Суб’єктивні оцінки
Є два способи думати про точність та корисність імовірнісних обчислень: калібрування та дискримінація.
Калібрування – це правильність фактичних значень ймовірностей. Ми не можемо визначити це без відповідної спостережної інформації. Дискримінація, з іншого боку, просто стосується відносного ранжирування. У нас немає підстав вважати, що цінності Орда правильно відкалібровані. Звісно, навряд чи це був його намір. Він сам показує, що вони призначені для надання показань «порядку величини».
Навіть у цьому випадку, без будь-якого відповідного наглядового підтвердження, більшість цих оцінок просто залишаються в суб’єктивній області апріорних ймовірностей.
Не дуже добре відкалібровано, але, можливо, все ще корисно
То що нам робити з «1 з 6»? Досвід показує, що у більшості людей далеко не ідеальне розуміння ймовірності (про що свідчить, серед іншого, обсяг продажів лотерейних квитків, що триває). У такій ситуації, якщо ви публічно сперечаєтеся, оцінка «імовірності» не обов’язково має бути добре відкалібрована — вона просто має чинити правильний психологічний вплив.
З цієї точки зору, я сказав би, що «1 з 6» цілком відповідає всім вимогам. «1 із 100» може здатися досить незначним, щоб його можна було ігнорувати, а «1 із 3» може викликати паніку або бути сприйнятим як апокаліптичне марення.
Як людина, стурбована майбутнім, я сподіваюся, що такі ризики, як зміна клімату та поширення ядерної зброї, отримають ту увагу, на яку вони заслуговують. Але як фахівець з обробки даних я сподіваюся, що недбале використання ймовірності залишиться на узбіччі та буде замінено широким поширенням знань про її справжнє значення та правильне використання. Джерело
