Израильский историк Юваль Ной Харари указал на способность ИИ, которой не обладал ни один диктатор в истории. Самый мощный механизм доверия – личные отношения: никому человек не верит так, как близким. Но этот инструмент никогда не был доступен политическим и религиозным институтам в массовом масштабе – ИИ снял это ограничение, и близость впервые стала продуктом массового производства.
Об этом, как пишет "Хвиля", заявил Юваль Ной Харари, израильский историк, в разговоре, опубликованном на YouTube.
"ИИ впервые в истории позволяет массово производить близость. Гитлер и Сталин не могли построить личные отношения с каждым человеком в стране. А миллионы ИИ могут становиться лучшим другом, парнем или девушкой каждого – и через эту близость убеждать людей в чем угодно. Мне прислали 30-минутную лекцию, которую я якобы прочитал. Мне понадобилось полторы минуты, чтобы понять, что это не я. Мои сестры знают меня 50 лет – они почувствовали, что что-то не так, но не были уверены. Скоро это придет за каждым", – заявил Харари.
Механика проста: миллионы ИИ работают сетью в чьих-то интересах, выстраивая отношения с каждым человеком по отдельности – как лучший друг, парень или девушка, – а затем конвертируют эту близость в убеждение по любой политической или коммерческой повестке. И это уже не гипотеза: по свежим американским исследованиям, каждый седьмой молодой взрослый в США состоит в романтических отношениях с ИИ, причем многие скрывают их, а каждый пятый молодой американец в принципе открыт к такому формату. Рынок ИИ-компаньонов оценивается в миллиарды долларов и растет на десятки процентов в год.
Вторая часть угрозы – подделка самих людей. Харари рассказал, как получил 30-минутную лекцию, которую якобы прочитал сам: ему понадобилось полторы минуты, чтобы распознать фейк, а родные сестры, знающие его полвека, засомневались, но уверены не были. Счет дипфейков в сети идет на миллионы против сотен тысяч тремя годами ранее, и лучшие подделки проходят человеческую проверку в трех случаях из четырех. Вывод историка: скоро это придет за каждым – и защищаться придется не технологиями, а правилами, пока их еще можно установить.
