Отличная история в
недавнем выпуске Le dessous des images (я продолжаю активно рекламировать эту передачу!). В 2021 году в Америки убили мужика. Убийцу арестовали, в этом году был суд. На суде свидетельствовал в частности сам убитый. В виде аватара, оживлённого ИИ, с голосом, синтезированным ИИ. Текст свидетельства, к сожалению, написал не ИИ, а сестра убитого (
видео залито на её канале YouTube).
Первая мысль у меня, конечно же: Акутагава, «
В чаще». Там тоже сначала сначала читаешь версию убийцы, потом спасшейся жертвы, под конец свою версию рассказывает дух убитого. Только это не художественная литература.
В передаче рассказывают о том, как работает правосудие в США. Сначала суд признаёт или нет вину обвиняемого. Затем, если виновен, уже на другом заседании судья должен определить наказание. И к этому заседанию стороны готовят impact statement — слезоточивые заявления, цель которых уже не убедить в виновности или невиновности, а склонить суд в сторону более или менее жёсткого наказания. Говорят, что это штат Аризона, и что там нет никаких технических ограничений на форму impact statement — почему бы и не ИИ. Видео начинается с дисклеймера: аватар говорит, что он — аватар. Затем эмоции: как я рад был бы быть сейчас вместе с вами, но нет, меня убили. Заканчивается ещё более эмоционально: фотография убитого на рыбалке, тоже затем обработанная ИИ, чтобы убрать его с фотографии, оставив пустую лодку.
В передаче говорят о практически однозначной негативной реакции на это видео у широкой публики. Действительно, если почитать комменты даже в YouTube сестры убитого, я не смог там долистать до какого бы то ни было понимания и поддержки этого жеста. Несмотря на такую реакцию, сестра убитого согласилась ответить на вопросы журналистов — за одно это её стоит уважать. Она действительно говорит о том, что выступления в этот день состояли в основном из воспоминаний, каким хорошим человеком был её брат — адвокаты защиты наоборот, пытались рассказать, какой это был мерзавец. Мне сложно, конечно, понять эту логику. Как будто убийство угрюмого человека — это меньшее преступление, чем убийство улыбчивого. Но в Америке процедура именно такова, и в ней поведение сестры вполне логично. Она рассказывает, как они с мужем подбирали нужные параметры, чтобы сгенерить наиболее симпатичную версию картинки на базе имевшейся фотографии. Причесали бороду. Поменяли футболку на нейтральную. Попробовали нарисовать его в костюме с галстуком — но нет, это было уже слишком.
Ещё более странным показалась мне реакция судьи. Понятно, что в передаче оставили буквально пару фраз. Но он говорит, что да, видео ему очень понравилось. И показалось искренним (genuine) — вот тоже, какой смысл он вкладывает в это слово? Он же не может думать, что ему только что показали настоящие мысли убитого 3 года назад мужика? В передаче при этом цитируют другого американского судью, который прямым текстом говорит, что это свидетельство сестры жертвы, которое выдаётся за свидетельство жертвы. Слов «лжесвидетельство» или «узурпация личности» он не говорит, но явно громко думает. На что сестра отвечает, что нет, конечно же, она не писала в тексте, который произнёс аватар, того, что не сказал бы сам её убитый брат. При этом надо видеть её лицо (если что, это 06:48) — такое ощущение, что она правда не понимает, о чём идёт речь.
Убийца в итоге получил максимально возможный по его статье срок.
Во второй половине передачи эксперт рассказывает, что в декабре 2024 года в американском суде использовали виртуальную реальность. Создали мир, надели судьям очки, чтобы они поставили себя на место обвиняемого и подумали, можно ли его действия трактовать как необходимую оборону. Потому что одно дело — объективное описание картины, а другое — как её видел человек в момент событий.
Другая история была в марте уже этого года. Подсудимый попросил вместо себя выступить симпатичного аватара. Но в том случае судья потребовала выключить видео и велела подсудимому говорить самому. Опять же, где грань? Почему можно попросить выступить вместо себя умеющего красиво формулировать адвоката, но нельзя запрограммировать робота? В том случае отдельно смешно то, что у подсудимого была компания по созданию аватаров. Судья в частности попросила не использовать суд в качестве платформы для саморекламы :-)
Подобные вопросы возникали и раньше. Например, в 1935 году впервые в суде использовали видеосъёмку — насколько картинка на плёнке может сравниться со свидетельством живого человека? Сейчас, конечно, этот вопрос уже вызывает улыбку. Но с развитием дипфейков непонятно, долго ли он ещё будет её вызывать. Потому что визуальное подтверждение очень сильно усиливает доверие к словам.
Чтобы немножко разбавить эту вот атмосферу «Чёрного зеркала». За пару выпусков до этого передача
рассказала историю чувака на каяке, которого проглотил кит (эта история должна понравится
mbla, я просто слышу её голос в собственном пересказе). Проглотил и выплюнул, потому что каяков кит не ест. Это событие попало на видео — 360° камера стояла на корме каяка отца нового Врунгеля. Папа обернулся на необычный шум, пока оборачивался — кит сына уже выплюнул. «Папа, меня кит проглотил!» «Так, не выдумывай!» Дома рассмотрели видео, офигели. В передаче, впрочем, показывают несколько других, аналогичных видосиков. С людьми, с тюленями. Киты тупые, им в рот попадает, что угодно.