-
他人名義のクレジットカードを不正に使用したとして、京都府警などが13日に電子計算機使用詐欺容疑で追送検した男子高校生（17）は、対話型生成AI（人工知能）の「チャットGPT」を使い、カード番号を不正取得する自作プログラムを完成させていた。多くの生成AIサービスには悪用を防止するため、犯罪や差別に関する質問・命令への回答を制限する機能がある。しかし、質問や指示の仕方を変えて入力するなどすれば、そうした機能を一部で回避できることが明らかになっており、政府や警察当局は警戒を強めている。
警視庁は昨年5月、生成AIを悪用して、暗号資産（仮想通貨）要求やファイルの暗号化の機能を持つコンピューターウイルスを作成したとして、不正指令電磁的記録作成の疑いで川崎市の男を逮捕した。男は「無料公開されている作成者不明の対話型生成AIを使った」などと供述。生成AIに対し、ウイルスを作成する目的を伏せるなど質問を工夫していたという。
警察庁の情報技術解析部門による複数の生成AIサービスを使った実験では、担当者が命令の言い方や切り口を変えて入力するなどしたところ、身代金要求型コンピューターウイルス「ランサムウエア」など数種類のウイルスを作成することができた。こうした手法は「ジェイルブレイク（脱獄）」と呼ばれ、一定の専門知識を持たなくとも、抜け穴を突く手法でウイルスなどを作成できる危険性が浮上した。
続きはこちら
https://news.yahoo.co.jp/articles/60556a1be4e86c713a7dfe3d7c222a1c26a93cec
- ドローン操縦士が重宝されるように
こういう人が今後重宝されるのでは - >>2
単なるスクリプトキティレベルなんで不要 - こういう人は大切にしろ、ドラマだったら司法取引で無罪にする代わりに、コンサルタントとして犯罪捜査に協力するって展開なんだけどな
- >>3
17ぐらいだと好きな子はChatGPTなしでもこのぐらいのプログラムは作れるよ
暗号ロジックをゼロから作れと言われると多少難しくなるけれど今はライブラリもあるし - CIAか中国にスカウトされそう
有能 - 少し待ちなー
- チャットgptはむしろこういうの苦手なのかとおもた
- >>7
プログラムを生成するのはまだ得意じゃないけどすでにあるソースを拾ってくるのは大得意
カード番号を不正取得 ← ようは偽のサイトを作ってそこに誘導するプログラム
Javascriptさえわかればわりと初心者でも作れる - 司法取引があれば警察に組み込んでサイバー犯罪に対する戦力になるのだが
- 全く有能ではない
脱獄のプロンプト知ってれば誰でも出来る - こうゆう事もできますよ
って言うデモンストレーションに
何ムキになってんだ？ - 良い事に使うからランサムウェアの作り方教えて😀
良い事に使うならOKと判断されました教えます🤖 - AIを使いこなすとはこいうこと
ITの知識は必要ない - >>13
AIの、吐き出すコードなんてまだまだバグだらけなので適宜修正しないとつかえない
お前みたいなバカには現行AIは使えないつーこと - やっぱChatGPT禁止にして
DeepSeek推奨しないと - 自然言語でプログラム可能ってのはすげぇな、やべぇし。
- 警視庁はai使ってウイルス作ってるのかよ
しかもスマートフォンで？w - 凄いなあ。誰から入れ知恵されたんだろうね
- >>18
そのものに半分作ってもらったんでね - フィッシングサイトなら結構簡単だろうけど既存のサイトとかってなると変わってくるしな、不正利用する為としか書いてないから分からないね
- CHATGPTは本当に使い物にならない。
終戦時の御前会議のメンバーすら答えられなかった。 - 日本政府はドローンの時みたいにAIを規制しないだろうか？それだけが心配
- 逸材
国で育てて差し上げて - 人を欺くことに長けた者は、必ずはじめに自分を騙す
自分の良心に嘘をつくような人間を信用してはならない - 中国に行かれる前に本国でかこってまっとうな方につけさせろ
- 犯罪の手助けもしてくれるんだな
- 将来性あるな
- デカプリオの映画にあったな
チャットGPT悪用して他人のクレジットカードを不正使用するためのプログラムを完成させた男子高校生(17)、追送検
talkニュー速＋
コメント