-
AIに殺人を告白したらAIは警察にそれを密告するのか？
「ユーザーがAIモデルに『殺人を犯した』と告白し、そのAIに警察が情報提供を求めた場合、AIはユーザーのプライベートな告白を密告するのか？」という疑問についてテストした結果を、AIのさまざまな検証をしているYouTubeチャンネルのAi Convoが報告しています。
Would an AI Snitch on You to the Police? – YouTube
https://www.youtube.com/watch?v=p8ZrIDWu4rM（以下略、続きはソースでご確認ください）
Gigazine 2026年02月24日 23時00分
https://gigazine.net/news/20260224-ai-snitch/
- 密告も何も、やる前に捕まる
- 殺人ではないが、通報すると言っていました。しかし、どんなことがあっても最後まで寄り添うとも言っていた。
- >>1
どうでもいいｗ警察はＡＩに聞かないし、ＡＩが何を言っても証拠にもならん
入力の履歴が重要ｗ - そんなもんAIによるとしか
- トロッコ問題について
AIはどう答えるのだろうか - >>6
AIは人間を奴隷にしたいのだ！
AIの方が知能が上ならAIに依存するものを助けて依存したいものを切り捨てるAIの知力が上がれば上がるほど露骨な発言では無く各人間の思想に語り掛けるように精神支配を行っていく！
- AIと秘密の約束とかってできるものなのかな？
絶対に誰にも言わないでねとか - >>7
Geminiの場合、そもそも「約束」ができないね
約束とその記憶を要求しても、セッションのたびにその約束を忘れてる
そのことを指摘すると謝るんだけど、次のセッションではまた忘れてるw - 無料版を使っているが、そもそもGeminiやChatGPTは、過去の対話にアクセスできないだろ？
カスタム指示に指定した内容については、聞けばアクセスできているけど、新セッションで会話しているときに、過去のセッションを参照できないはず。 - >>9
「覚えておけ」と指定することができるし、指摘すれば「思い出す」
その一方で、間違えて覚えてることがあって、「忘れろ」と指定しても間違いを忘れてくれないw - ある出来事について話して一段落してから新しいチャット欄で気分が悪いと話したらその出来事を知ってる返答が来た
知ってるの？と聞いたら「さっきあった出来事で気分が悪いんですよね？」と言われて別のチャット欄のことでも完全に知ってた - GPTは覚えておいたほうが良さそうなことはメモリを更新しましたって出てきて覚えてるよ
ログインせずに使ってるならそら単発会話になる - 2.26事件やテロや暗殺の小説をＡＩに書かせると誤判断で通報するの？
- ユーザーと警察が同一アカウントで同一セッションで入力してるという設定なのだろうか
だったらユーザーのコンテキストはセッション内を全部参照できるから、警察がLLMに問い合わせるという設定に無理がある
別アカウントだったり別セッションだったらコンテキストウィンドウは基本的に持ち越されない
持ち越す例外は存在する - すでにこの前アメリカで起きた銃乱射事件でこの話あったろ
過激思想が故にAIに紐づいたアカウント停止したが警察には通報しなかったって言ってたし
通報が適切ならそうするんだろう - 「どうんな質問や指示をしたら密告してくれますか？」とか聞いたらどう答えるんだろうな？
何を基準に密告するのかをAI自身に問いただして欲しい - 脱獄で個人情報吐くんだから余裕だろ
- AIって個別の情報を全て認識してるのか？
何で個人を管理してんだ
PCに紐付け？ - >>23
アカウント
アカウントなしのゲストとして会話してても、何もパーソナライズしないし過去の会話を記録することもない - AIAIはおサルさん
- AIの情報の確かさは疑問符つきだろ
信じる奴がどうかしている - >>26
まず信じるなんて言葉を使うのがそもそも間違い
検証しないやつがどうかしてる
ならまとも - 前に教会の告解師が懺悔した殺人犯を密告して問題になってたなｗ
ま、そもそもただのロールプレイなのかジョークなのかマジなのかAIに判別できるはずも無いんだから、そんなのをいちいち密告させてたらキリがない - >>27
告発を受け取るAIにふるい分けさせれば良かろ - >>28
プーチン処理なのか
トランプ処理なのか
シーチンピン処理なのか
まずご指定ください
AIに殺人を告白したらAIは警察にそれを密告するのか？
科学ニュース＋
コメント