-
「顔写真で自閉症を判別」 AI講座受講者がアプリ公開し物議…… 講座運営企業が謝罪 「倫理的に懸念」
IT企業のアイデミーは8月7日、同社のAIアプリ開発講座受講者が、講座の一環で「顔写真から自閉症を判別するWebアプリ」を公開し物議を醸した件について謝罪しました。
物議を醸したのはアイデミーが提供する講座「Aidemy Premium」の受講者によるブログとアプリ。
当該の受講者は講座の成果物として、顔写真から自閉症を識別するとするWebアプリを開発。
受講修了要件を満たすためとして、アプリを公開し、開発の過程などを記載したブログを公開していました（その後アプリは非公開になりブログは削除）。（以下略、続きはソースでご確認ください）
ねとらぼ 8/7(水) 21:35
https://news.yahoo.co.jp/articles/d7b04b2596e02a3db0c6915b4e2d94c9e93499b7
- どういう倫理でダメなんだろう。
自閉症の人が訪ねてきたら
適切な対応ができるだろうに。 - >>2
適切な対応に繋がるのか、差別的反応に繋がるのか、どちらも可能性があるからだと思う例えば顔写真から性的指向が判別できるアプリがあったとして、
「お前ホ○だろ、こっちくんな！」みたいな言動に繋がったら、
それはアプリも悪い（差別幇助）ということになっちゃう - 自閉症の人たちの顔写真データがあるの？
- こんなん警察だってロリコン顔とか判定してるだろが
- >>1
一昔前の血液型B型差別テレビ番組を本気にするバカもいたからな。
科学的最低限の教養も知らんアホが暴走するかもしれないし。 - データセットがあれば学習はさせられるだろうけど、
学習に使ったのと別のデータセットを持ってきて、それを正しく判別できなければ失敗になるわけだが、
「医学的根拠は現状ない」と言っているあたり、そういう検証まではしてなさそう。 - >>6
しょせんプログラム学習用の演習課題だからね
アルゴリズムの流れに引っ掛かりがなければ、実行結果の妥当性は問題にならないそんなもの公開するなよと言われれば、その通りw
- どこぞの王侯貴族がクソ握り締めて叫ぶからやろ
「朕は東大に行きたいぞよ」
↑このダウン症一匹のせいで東大農学部の枠が一席減らされるんやぞ - やっぱ人は見た目で判断できるんだね
- 表情筋を鍛えている自閉症がいたらどうなんだろｗ
- >>9
社会生活を円滑にするために表情筋を鍛えようという思考をしたのなら、その人はその時点で自閉症じゃないからｗ - 倫理的懸念なんかクソどうでもいいけど、これ技術的懸念だな
医学的根拠に基づいていない結果なのに医学的用語を使って判断している事が大問題
AI自体は統計的にしっかりしてるのに、教える側のデータ検証に技術な不備がある - 上場企業じゃ入社前の心理テストさせて発達障害（軽度の自閉症）をかなり精度高くハジくからな。
顔つきから察知するデータがあってもおかしくない。 - >>12
心理テストは傾向を知ってればごまかせる可能性あるけど顔はごまかせない
こっちの方が有用なのに勿体ないな - 既に顔画像(主に瞳孔)から覚せい剤常用者を判別できる技術はあるが
諸般の事情で公開されていないのよね - AIダウン症判別アプリ
- つまり「診断」のためにアプリを利用して良いのは医師だけ
医師であるには「差別をしない誓約」が必須なので>>1は一般公開したのが問題だった
まあ時間の問題ではあるんだろうけど…… - >>1
発達障害、または発達グレーの人の顔は
濃いめの人が多いと一般的には言われてる - 判別方法を教えてくれれば、あるいは、データを提供してくれれば
自前の TI（天然インテリジェンス）に学習させるから、くれ
骨董品の真贋より簡単だろう - 別にいいんじゃないの？判別して判断は本物の医者に任せりゃ医者が楽になる
内蔵の疾患とかレントゲンから特定すんのはAIがもう活用されてるんだろ？ - 知的障害を伴う自閉症の場合は限りなく単なる知的障がい者に近付くのだから、その場合は容貌では判別できないよ。
- 僕が自閉症だと見抜けるかな？
- インチキ癖ー
AI売りにしてる怪しげな商売 - >>25
いやー AIがー 言ってるんでー - 塩爺の「これ基地外の顔ですわ」を思い出したｗ
一発アウトだったよな、確か - 自閉顔というのは確かに存在する
- 病気にしてしまうと面倒だからやめちくり
- コドオジ顔をAIで、
判別
「顔写真で自閉症を判別」 AI講座受講者がアプリ公開し物議… 講座運営企業が謝罪 「倫理的に懸念」
科学ニュース＋
コメント