ethikal.aiとは、日本と英国の大学間で代表される、感情認識人工知能の新興世界の異文化間の側面を探求する国際的な研究協力の日本のカウンターパートです。この3年間のプロジェクトへの資金提供は、英国研究技術革新機構（UKRI）の国際協力基金（FIC）と日本の科学技術の人間情報技術エコシステム（HITE）によって実現されました。「都市における感情認識AI：日英発倫理的生活設計に関する異文化比較研究」と題されたこの研究の目的は、異文化間の商業、セキュリティ、医療、およびメディアの文脈でEmotionalAIを倫理的かつ適切に利用することの意味を評価することです。

重要なことに、このプロジェクトは、感情認識AIに対する多様な市民の態度を理解することを目指しており、都市の感情検出および認識ツールを使用して倫理的かつ適切に生活することの意味について、市民主導の創造的なビジョンを共同設計します。最終的には、市民の意見を含むすべての研究考察を、都市での感情認識AIの多様な利害関係者の使用にフィードバックすることを目指しています。

感情認識AIとは、テクノロジーシステムが私たちの体の動き、声、顔の表情、さらには体温からのデータを使用して、人々の感情、気分、意思を感知、学習、および相互作用できるようにする新たな技術です。これらのテクノロジーがスマートデバイス、建物、都市に登場すると、人々が周囲を体験することが変わり、プライバシー、セキュリティ、安全性、システムの偏見など、倫理的および社会的影響について疑問が生じます。これらの質問と人々のニーズに対処しないと、顔認識技術に対する最近の反発に見られるように、技術への不信につながる可能性があります。

感情認識AIは急速に成長している業界であり、現在の推定値は２00億米ドルです。自動運転車、AIホームアシスタント、予測ポリシング、人事管理など、さまざまな業界でその存在感を感じることができます。AIはまだその推定可能性の半分を達成していませんが、私たちの日常生活はすでに感情認識AIの影響に触れています。

AI倫理は、公的部門と民間部門が感情検出および認識ツールを倫理的、安全、責任を持って構築および実施することを保証するための価値観、原則、およびガイドラインで構成されています。感情認識AIベンダーは、自社のテクノロジーが人間のマネージャーが従業員を理解し監督するためのより良い方法を見つけるのに役立つと主張しています。彼らはまた、労働者の業績について客観的で公平な経営上の決定を下すのに役立つと主張しています。一方、感情的なAIベースの自動管理ツールは、自己追跡デバイスを介して操作可能であるか、パノラマシステムを介して外部から課せられるかにかかわらず、不安の度合いを高め、信頼レベルを下げ、差別を助長する可能性があります。これらに内在するの問題を超えて、感情感知ツールをサポートするための不安定な科学があります。

何十年もの間、神経科学、社会学、人類学、生物学、心理学などの分野の研究者は、感情が人体の心身の構成に組み込まれているかどうか、または社会的理解に依存しているかどうかについて合意できませんでした。この論争に加えて、感情認識AIベンダーによる、すべての人間は離散的な数の普遍的な感情を示し、それらは文化ごとに内在しており画一的であるという主張があります。感情認識AIテクノロジーが国境を越えているため、そのデータセットとアルゴリズムが性別、民族、文化に合わせて調整されることはめったにないことを考えると、この最後の点は特に顕著です。しかし、職場での共感サーベイランスは明確にし、無批判にビッグデータの黄金時代の「新しい規範」の一環としての先駆けされています