Кали Робинс выложила обычное семейное видео: она едет в машине и поёт вместе с маленькой дочерью. Имени девочки в ролике не было, возраст тоже никто не называл.
Но Meta AI* предложил выяснить: «Кто ребёнок-пассажир?»
Робинс нажала из любопытства — и через несколько запросов система уже знала имена обеих её дочерей, их возраст, находила старые сообщения о рождении, фотографии и даже сведения о весе при рождении. Следом появились предложения узнать, где живёт семья и чем она занимается.
По словам женщины, самое неприятное было в том, что значительную часть этих сведений она сама давно не публиковала. AI собирал их из старых постов родственников и других доступных страниц, превращая многолетнюю россыпь семейных фотографий и поздравлений в готовое досье. Историю Робинс подробно рассказало издание Futurism. После того как случай получил огласку, Meta* признала проблему.
Всё началось с одного вопроса
Робинс живёт в американском штате Юта и ведёт публичные страницы в социальных сетях. Она не знаменитость — на момент произошедшего у неё было лишь несколько сотен подписчиков.
Как многие родители, она иногда выкладывала фотографии и видео детей, но старалась не рассказывать о них слишком много.
По её словам, после нажатия на предложенный Meta AI* вопрос система не только назвала девочку из видео, но и определила её сестру, которой в кадре вообще не было.
Дальше AI начал восстанавливать возраст детей по поздравлениям с днями рождения и публикациям об их рождении. Среди источников оказалась, например, старая запись бабушки одной из девочек.
В другом ответе система нашла сведения о том, сколько ребёнок весил при рождении.
Ничего из этого по отдельности не выглядело секретом. Пугающим оказался масштаб: то, на поиски чего человеку пришлось бы потратить часы, AI собрал почти мгновенно.
От имени ребёнка система добралась до адреса семьи
Затем Meta AI* предложил выяснить уже нечто более чувствительное: где живёт сама Кали Робинс?
По словам женщины, система начала анализировать старые публикации Facebook* и сопоставлять их с другими сведениями о семье. Она предлагала информацию о работе супругов, любимых местах и деталях повседневной жизни.
Именно способность складывать безобидные мелочи в одну картину встревожила Робинс сильнее всего.
Возраст ребёнка сам по себе мало что говорит. Название небольшого города — тоже. Но если соединить эти сведения, добавить старые фотографии, семейные комментарии и места прогулок, круг возможных школ, районов и привычных маршрутов становится гораздо уже.
AI не взломал аккаунты — и в этом суть проблемы
Пока нет свидетельств, что Meta AI* взломал закрытые страницы или получил доступ к какой-то тайной базе данных. Компания заявила, что система использовала информацию, которую пользователь и так имел право видеть.
Как объяснила представитель Meta* изданию The Verge, AI не должен показывать контент, который недоступен самому человеку обычным способом.
Но именно это и делает случай показательным. Проблема оказалась не в новой утечке, а в новом способе собирать старые данные.
Раньше желающему составить такое досье пришлось бы годами листать страницы матери, бабушки и других родственников, сравнивать даты, фотографии и подписи. Теперь значительную часть этой работы способен взять на себя AI.
А что с якобы удалённой фотографией?
Одна деталь истории выглядит особенно тревожно. Робинс утверждает, что среди найденных Meta AI* снимков оказался тот, который она сама удалила много лет назад.
Если бы система действительно получила его из внутренних архивов Meta*, речь шла бы уже о совсем другой проблеме. Но доказательств этого пока нет.
Meta* утверждает, что AI работал с публично доступным контентом. Не исключено, что копия фотографии сохранилась в публикации кого-то из родственников или на другой странице.
Поэтому этот случай пока не доказывает, что Meta AI* способен доставать удалённые пользователями фотографии.
Meta* признала ошибку
После того как история стала вирусной, Meta* признала, что предложение выяснить личность ребёнка вообще не должно было появляться.
Компания заявила, что функция предназначена для получения дополнительной информации о публикациях, но не должна сама подталкивать пользователей к настолько личным вопросам. Причину появления подобных подсказок, по словам Meta*, уже исправили.
При этом сама способность Meta AI* анализировать доступные публикации никуда не исчезла. AI-помощник компании встроен в Facebook*, Instagram*, WhatsApp и Messenger.
Старые семейные посты внезапно стали выглядеть иначе
После случившегося Робинс попросила родственников удалить или скрыть старые семейные публикации.
Это оказалось непросто. Для некоторых Facebook* годами был обычным семейным фотоальбомом — местом, где родственники из разных городов следили за тем, как растут дети.
Но AI меняет отношение даже к давно забытым записям. Фотография ребёнка, поздравление бабушки, сообщение о переезде или снимок с прогулки сами по себе могут казаться совершенно безобидными. Раньше их защищало хотя бы то, что они были разбросаны по тысячам публикаций за много лет.
Теперь этот барьер становится значительно слабее. Особенно это заметно на примере детей. Большую часть их цифрового следа создают родители и родственники задолго до того, как сам ребёнок сможет решить, хочет ли он вообще присутствовать в интернете.
История Робинс показывает простую вещь: теперь стоит думать не только о том, что рассказывает один конкретный пост, но и о том, что AI сможет понять, если соединит его со всеми остальными.
* Meta Platforms Inc. признана экстремистской организацией. Её деятельность по реализации социальных сетей Facebook и Instagram запрещена на территории России.
