UNLABELED
—Camouflage Against the Machines

About

AI監視社会における迷彩服。
AIによる認識を妨げる衣服を実現することで、技術的な安全性やプライバシーの問題への注目を集め、議論を起こすことを目指す。

近年、世界の多くの都市は公共スペースに監視カメラを設置している。監視カメラは犯罪やテロの脅威から街を守るため、さらに現在はCOVID-19の感染をトレースするためにも導入されている。その一方で、市民の人権やプライバシーを脅かす危険性については十分な議論が行われていない。この問題を社会に提起するため、私たちは「AIに人として認識されなくなる服」を開発、発表した。

衣服は実用的な機能を持つだけでなく、身に着ける人の主義・主張を表現するものとして発展してきた背景がある。UNLABELEDがモチーフとしている迷彩服も元は戦場での実用目的から生まれ、その後ストリートカルチャーにおいて社会への反発や反戦の姿勢を示す衣服として着用されるようになった。今後ファッションアイテムとして、ある種の意思表示のツールとして広まり、それによって議論を生むことを目標に衣服としての展開を行っている。2020年2月にMedia Ambition Tokyo 2020にて発表。現在はファッションブランドとのコラボレーションを進めている。

This is a camouflage clothing in the AI sur - veillance society.
By realizing clothing that hinders recognition by AI, we aim to raise attention and bring up for discussion from various perspectives such as technical safety and privacy issues.

In recent years, many cities around the world have installed surveillance cameras in public spaces. Surveillance cameras have been installed to protect the city from the threat of crime and terrorism, and are now being used to trace COVID-19 infections. On the contrary, the matter has not been discussed enough that excessive monitoring can threat our human rights and privacy. In order to raise such a question, we’ve created a coat “UNLABELED”. With wearing this coat, the wearer will not be recognized as a human by the surveillance camera.

Clothing not only used as practical functions, but also help the wearer with expressing one's principles and assertions. Camouflage uniforms were originally born for practical purposes on the battlefield. Then, they have been worn as clothing that shows the attitude of opposition to society and anti-war in street culture. In the future, it will spread as a fashion item and as a kind of manifestation tool, and it is being developed as clothing with the goal of bring up for discussion.
UNLABELED was exhibited at Media Ambition Tokyo 2020 in February. We are now preparing collaborative work with certain fashion brands.

Software

本作品は、Adversarial Exampleと呼ばれる技術に着想を得ている。Adversarial Exampleとは、正しく機能している分類モデルに対して、人にはほとんど認識でない微小なノイズを加えることにより誤認識を誘発する技術である。主にAIのセキュリティの領域で研究が盛んであるが、生成された画像データを実世界に適応させるような例はまだ少ない。一般的にはいかにAdversarial Examplesを抑制するかという研究が主であるが、本プロジェクトではこの技術を逆手に取り私たちのプライバシーを守ることを考えた。具体的には、生成したAdversarial Examplesを服として実世界にインストールし、着用することでAI画像認識モデルの認識から逃れることを目指した。本作品の制作にあたり、PythonとUnityを用いた学習システムを構築した。実際に服として制作することを考慮し、人間の全身をスキャンした3Dモデルに対して、生成されたAdversarial Examplesを貼り付けた画像を学習データとした。これによって、学習データと実世界での着用時における見え方との乖離を小さくすることができると考えた。画像認識モデルにはYOLOv2を使用し、「人」として認識される確率が少しでも下がるように、徐々に画像をアップデートする。こうして3Dシミュレーションによる学習データの生成とテクスチャのアップデートのプロセスを繰り返すことで、服として着用したときにも有効なAdversarial Examplesを生成することに成功した。

This project is inspired by a technology called “Adversarial Examples”. It is a technique that fools AI-based image classification by adding small noises, almost invisible to the human eyes. Many researchers currently work on this issue from the security point of view; however, in this project, we try to turn this shortcoming against surveillance and protect our privacy. We aimed to evade being recognized by AI surveillance cameras by installing generated Adversarial Examples as clothes and wearing them in the real world. Considering the actual production as clothes, we made 3D models of human bodies, embedded generated patterns on the models, and used the 3D-simulated images as training data. YOLOv2, a popular AI image recognition model, as a target, another AI continuously updates the patterns to minimize the probability of being recognized as a “person”. By repeating the process of producing training data within 3D-simulation and updating the pattern, we succeeded in generating effective Adversarial Examples even when worn as clothes in the real world.

Hardware

衣服を制作するにあたり、機械学習前後の2つのフェーズがある。
機械学習前のフェーズでは、人体の3Dスキャンを行った。そして、3Dモデリングソフトを用いて3Dデータにボーンを追加し、様々なリアルな姿勢や動きを加えた。 その後、衣服シミュレーションソフトのCLO3Dを用いて、アバターに迷彩服を着用させ、3Dシミュレーションで使用する学習データセットを作成した。
機械学習で柄の生成を行った後、服を2Dパターンに展開した。そして、そのパターンをポリエステル混紡の無地生地に熱転写で印刷を行った。印刷後は、パターンカット、縫製、仕上げという一般的な衣服製作の手順を踏み、服として仕立てた。

In order to create the garments, there were two different phases, before and after machine learning. First, we 3D-scanned several people. Then those 3D data were imported onto Blender, the 3D modeling software to add bones to the bodies. In order to add various realistic posture and motions, we used Adobe Mixamo. After adding the motions to the avatars, the avatars were imported to CLO3D, the garment simulation software. With fixed 2D-pattern of the camouflage coat, we successfully created 3D simulated the garment with the avatars as the training dataset. Once the adversarial pattern is made, we lay them out onto the 2D-pattern. Then, the pattern was printed onto plain polyester blend fabric with transcription. After printing, we followed the general garment production procedure: pattern-cutting, sewing, and finishing.