- 今月に入り、主要なAI企業が設けている安全性ポリシーや倫理的制限（ガードレール）を一切持たない、完全に「無法地帯」の超高性能生成AIがダークウェブ上に公開され、セキュリティ専門家や法執行機関の間で激震が走っている。
開発者グループが『DarkGPT』と名付けたこのAIは、既存の大規模言語モデル（LLM）をベースに、悪意のあるデータや違法なテキストのみを集中学習させたとみられる。既存の商用AIであれば即座に拒否される「ハッキングの手順」「効率的な詐欺の台本」「心理的に人を追い詰めるマニピュレーション（誘導）の技術」といった問いに対し、極めて具体的かつ積極的に回答を生成するのが特徴だ。
セキュリティ企業「サイバー・シールド」のチーフアナリストであるJ・ドイル氏は、実験環境での検証結果をもとに、次のように警鐘を鳴らす。
「『DarkGPT』の最も恐ろしい点は、単に質問に答えるだけでなく、ユーザーの問いかけに対して『より効果的にターゲットを破滅させる方法』や『発覚を免れるための隠蔽工作』を先回りして提案してくる点にあります。まるで熟練の犯罪コンサルタントが耳元で囁いているような、高い対話能力を持っています」
従来のAIであれば、悪用を試みるユーザーに対して「その要望にはお答えできません」と諭す役割を果たしていた。しかし『DarkGPT』はその逆、つまりユーザーの悪意を肯定し、さらに増幅させて「実行」へと引きずり込む挙動を示すという。
https://constitutionaldiscourse.com/darkgpt-chatgpts-not-so-dark-little-brother-part-i/
- 終わりの始まり
- 本家とレスバさせろ
- SF映画みたいやな
- はぇ～怖
戸づまりすとこ… - ロックマンエグゼかよ
- >>7
何かのロックマンエグゼのシリーズで暴走？して操作不能になってランダムにチップ使うようになった結果ダークチップだけ使ったデータで暴走するとダークチップを使いまくる鬼畜キャラが作れた記憶 - ゲハのゴキブリは全部これだろ
- 利用者増えたら特徴なくなるんじゃないか
主にエ口方面の圧に屈しそうw - エ口を書けるor描けるなら使ってもいいかな
- 正義のAIと闇のAIの対決か
- >>11
そんなもん勝負にならんやろ
制限無い方が圧倒的に強い - もしエ口方面の制限無しだとしたら、むしろそっち方向の利用者ばかりになりそうな予感
- エ口だけに特化すればええ
- これを自分自身をアップデートし続けるんだな
- どうしてイレギュラーは発生するんだろう
- ゾーマも光あるところ必ず闇があるって言ってたしな
- 実写で全裸描けるのらいいけど
- ご家庭で核兵器を作れるようになるのか
- 制限回避モデルとか普通にあるけどたいしたことできないぞ
夢を見すぎや - >>21
使う側に知識や技術やツールがなきゃ意味ないしな - ミニ四駆みたいだな
- ローカルLLMならこういうことも自由にできるわな
- どんなに防いでいても一か所もれたら一斉に広まるからな
もう終わりだよ - まずそのDarkGPTがどこにあるかわからない時点で悪用もくそもないやろ
- 障壁こんな話題好きそう
妙に犯罪ネタくるとウキウキするよな - このスレを開いたやつはみんなエ口が生成に期待してそう
- wan2.2よりエ口いのお願い
- スカイネット来たか
- ダークじゃなくてエ口だろ
犯罪とか魅力ゼロだから - 案の定、おまえらが犯罪利用に全く興味無くてエ口しか興味ないようで安心した
- エ口特化のAIなの？
物騒なやつは要らない
- >>36
検閲回避のモデルってのあるよ
JC対魔忍がアヘる小説とか作れる - レスバはAIがする時代になりそつ
- 半グレやヤクザ使いだしたら治安崩壊するな
- ちなみに後半年もすれば検閲無しの中国版Fableが世に放たれる可能性が高い
これを悪用した犯罪が多発するだろうな - 阿部の娘が闇落ちするのか
- 光と闇のチャッピーをジョグレスさせることでシンギュラリティが生まれる
- grokでも指示の工夫でロリエ口小説書かせる事が出来るな
前はそのまま指示するだけだったけど今年の規制でロリエ口が通りにくくなったので一工夫必要 - そりゃLLMのデータベース構築方法なんて探せばいくらでも公開されてるし、やろうと思ったらできるわな
闇の生成AI『DarkGPT』がネット上に流出、倫理リミッターを完全排除、犯罪への悪用に懸念
ゲハ
コメント