ИИ разоблачает анонимных шахматистов, создавая угрозу конфиденциальности

Программное обеспечение, определяющее уникальные стили игры, может привести к улучшению учебных пособий и игрового процесса

Считаете, что ваш ферзевый гамбит с открытием слона и созданием прочного пешечного центра уникален? Новый алгоритм искусственного интеллекта уже определил ваш шахматный стиль. Программное обеспечение ИИ уже может идентифицировать людей по голосу или почерку. Теперь искусственный интеллект показал, что он может маркировать людей на основе их игрового поведения, что является достижением в области «стилометрии», которая может помочь компьютерам стать лучшими учителями шахмат или стать более похожими на людей в своей игре. Вызывает беспокойство тот факт, что система также может быть использована для идентификации и отслеживания людей, которые считают свое поведение в Интернете анонимным.

«Угрозы конфиденциальности быстро растут», — говорит Александра Вуд, сотрудник Центра Интернета и общества Беркмана Кляйна при Гарвардском университете. Исследования, подобные этому, если они проводятся ответственно, полезны, потому что проливают свет на то, как в значительной степени теряется конфиденциальность.

Шахматные программы, такие как Deep Blue и AlphaZero, долгое время были сверхчеловеческими. Но Эштон Андерсон, ученый-компьютерщик из Университета Торонто и главный исследователь нового проекта, говорит, что шахматные движки играют почти в «инопланетном стиле», что не очень поучительно для тех, кто хочет учиться или совершенствовать свои навыки. Им было бы лучше адаптировать свои советы к отдельным игрокам. Но сначала программе нужно понять уникальный стиль каждого в отдельности игрока.

Для разработки и обучения своей сети исследователи использовали более 50 миллионов сыгранных людьми партий с известной он-лайн платформы. Учитывались игроки, которые играли не менее 1000 раз. Затем были выбраны последовательности до 32 ходов из этих игр. Каждый ход был закодирован и передан в нейронную сеть, которая представляла каждую игру в виде точки в многомерном пространстве, так что игры каждого игрока образовывали скопление точек. Сеть была обучена максимизировать плотность кластеров каждого игрока и расстояние между кластерами разных игроков. Для этого требовалась система, позволяющая распознавать отличительные особенности стиля каждого игрока.

Исследователи протестировали систему, увидев, насколько хорошо она отличает одного игрока от другого. Они предоставили системе 100 игр от каждого из примерно 3000 известных игроков и 100 последних игр от неизвестного игрока. Чтобы усложнить ситуацию, они скрыли первые 15 ходов каждой игры. Система искала наилучшее совпадение и идентифицировала таинственного игрока в 86% случаев, сообщили исследователи в прошлом месяце на конференции NeurIPS. «Мы не совсем поверили результатам», — говорит Рид Макилрой-Янг, студент лаборатории Андерсона и ведущий автор статьи. Метод, не основанный на искусственном интеллекте, был точен всего на 28%.

«Работа действительно классная», — говорит Ноам Браун, научный сотрудник Meta (Facebook), который разработал покерных ботов. Он с нетерпением ожидает появления шахматных ботов, имитирующих Магнуса Карлсена, действующего чемпиона мира, и говорит, что искусственный интеллект, учитывающий стиль, может изменить другие способы взаимодействия с компьютером. “Существует большой интерес к чат-ботам, где у вас может быть бот, который будет говорить как Альберт Эйнштейн или что-то в этом роде”, — говорит он.

Исследователи осведомлены о рисках конфиденциальности, связанных с системой, которая может быть использована для разоблачения анонимных шахматистов онлайн. По словам Макилроя-Янга, если вы внесете некоторые изменения, то же самое можно сделать и с покером. И теоретически, говорят они, при наличии правильных наборов данных такие системы могли бы идентифицировать людей на основе их привычек вождения или времени и места, где они используют свой мобильный телефон.

Организаторы NeurIPS сочли исследование технически впечатляющим, но сомнительным с этической точки зрения, и приняли его при условии, что исследователи подробно расскажут о рисках конфиденциальности. Это может быть интересно маркетологам, — прокомментировал один рецензент. Андерсон говорит, что они решили пока не публиковать код.

Мэтью Хатсон