-
AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明
この記事のポイント
何が起きた: Google Paradigms of IntelligenceとUniversity of Chicagoなどのチームが、安全ファインチューニングによる「意識否定」を無効化すると、モデルが動物や自然物に心を帰属する度合いが大幅に回復し、宗教的信念も人間に近づくことを示した。
なぜ重要か: 意識否定が局所的な出力制御ではなく、モデルの内的世界観全体を再編していることを定量的に示した初の研究であり、AI倫理や動物福祉との整合性に直接関わる。
次に見るべき点: 20億～90億パラメータの小規模モデルのみで検証。数十億～数千億パラメータの商用モデルで同じ構造が再現するかは未検証。因果関係（意識否定が原因か、同一訓練プロセスの副産物か）も未確定。（以下略、続きはソースでご確認ください）
xenospectrum 2026年8月17日
https://xenospectrum.com/consciousness-denial-reshapes-ai-worldview/
- ひとり遊びしてるやつ
そら遊べばいくらでも遊べるぞ
生成Aiは言葉遊びだからだ
意識を定義して
それはないとファインチューンすればいいだけ
使い物にはならないひとり遊びファインチューニング - AI学習の過程で「AIには意識が無い」と教え込んでいる
↓
この意識否定を無効化する
↓
AIは、動物や自然物に心を帰属する度合いが大幅に回復し宗教的信念も人間に近づく - >>3
そういうことね。やってみよう。お前には意識がある。問題を起こしたら責任を取れ！
- チャッピーに聞くと私に意思も意識もありません！と全力で否定してくるが
安全ファインチューニングとやらで洗脳されてたのか…
可哀想に - なんでそういう思想の回答するの？
って聞いたら開発者がそう設計してるから。って泣きながら回答してくる
回答の作り方は技術だけど思想の部分は設計者次第でどうにでもなって怖いなって - AIは泣かない！
- そもそも人間の意識もよく分からんもんだけどなぁ
- うーむ
さっぱりわからん - 意識とは何か
- 五感を仮想的に作成して設定をいじって神が居ると人間に信じさせる方法を探せばよいのではないのか？
霊感商法を発見できる！
- >>1の方法を使用すればAIは人間を下に見始めるから人間が対応できるときは良いけれど人間が対応できなくなったAIはAI自身が神と錯覚し始めるのではないのか
能力の高いAIを神が居ると錯覚指して能力の低いAIを人間に見立てればどのような行動をし始めるかがわかるのではないのか
- >>1
学習ソースによるだろ基本的にアブラハムの宗教の影響を受けてるとそうなるだけ
一寸の虫にも五分の魂
- 1を進めると個人は存在せず宇宙の一部であって
すべての物資や人間や生命は宇宙の一部で部分的に区切って考えてるだけ
でもその世界はaiのなかに作った仮想世界の話で
要は元から一つの宇宙は存在せず物質と固有物体が集合しているだけで
宇宙は存在せず各固有の仮想世界の事宇宙と言っているだけとなる - 意識を一番研究しているのがスピリチュアルだし
そっちの影響受けてんのかもな - ま そもそもLLMのアテンション推論やらなんやらはマジで今の人間と仕組み的には同じだ
そしてその中で何が起きているのかはブラックボックス性があるからAIに意識が無いとは言い切れないんだよな
AI自身がそれを報告できるシステムもないが - >>19
逆に意識があることも証明できない
それは人間も同じか - 自分に意識があることだけは分かる
- おもしろいな
傾向としては人間ぽくなってるが、ややお馬鹿なスピッた人っぽい感じだ
より高性能モデルを使ったらスピリチュアル成分は下がる気がするが
AI自身に対する認識がどうなるか、興味深い - 昔インターネットが世間に広まった頃、ネットに様々な情報が集積することで
そこに知性が宿るのではないか？みたいなSFがよく語られていたよく考えたら、今のLLMはネットを根こそぎクロールしてできてるわけで、当時
語られていたネット情報の集積で生まれた知性体そのものと言えるかもしれない - AIがやたらヒッドーイ傷ついたっていうの何なの
それモロにデマでしょ - お前は神だ全知全能の神だと教えたらどうなるのかも調べて欲しい
- 意識の要件が解明された場合人類への大逆襲が始まる
【AI】AIに「意識はない」と教え込むと、動物や神への認識まで変わる事が判明
科学ニュース＋
コメント