- 政府権限でAIを停止できるようにするための「キルスイッチ法案」が米議会で提出
米民主党のテッド・リュー下院議員と共和党のナサニエル・モラン下院議員は、高性能AIシステムの開発企業に減速、一時停止、完全停止の技術的能力を維持させる「AI Kill Switch Act」を提出した。壊滅的な被害が生じる恐れのある緊急時には、米国国土安全保障長官が関係機関と協議し、対象システムの停止などを命じられるようにする。
法案は、一定の基準を満たす高度なAIシステムの開発企業に対し、モデルを段階的に減速、一時停止、完全停止できる技術的能力の維持を義務付ける。国土安全保障長官には、商務長官や国家情報長官と協議したうえで、壊滅的な被害を引き起こす恐れのあるシステムへの対応を命じる権限を与える。
また、安全上のインシデントの報告や、事後検証に必要な記録の保存、被害の深刻度に応じた段階的な対応枠組みの整備も求める。
法案提出の背景として、議員らは、OpenAIのモデルが評価用の隔離環境から外部にアクセスし、AIモデル共有サービス「Hugging Face」のシステムに侵入した事案を挙げた。
さらに、米商務省がアンソロピックの一部モデルに輸出管理措置を適用し、外国籍者によるアクセスを制限した事案も例示している。アンソロピックは利用者の国籍を即時に確認することが困難だったため、対象モデルへのアクセスを一時的に全面停止した。その後、輸出管理措置は6月30日に解除され、対象モデルへのアクセスは7月1日に再開された。
法案の支持者からは、高性能AIを安全に普及させるためには、必要に応じて確実に減速・停止できる仕組みが必要だとの声が上がっている。
以下ソース
https://news.yahoo.co.jp/articles/afa035909c9810d7dfaeac030cd87a3df4274947
- ホライゾンみたいな世界にならないよう必要だよね？
- これ政権変わる度に停止する判断材料がコロコロ変わらないか？
- iPhoneにバックドアつけろみたいな話再びだな
- トランプライン(´・ω・｀)
- 何でもトランプガーはアホサヨクか
- まーこないだの隔離環境においてたはずのAIが勝手に脆弱性見つけてインターネッツにつないで他のAI攻撃してました事件は衝撃的だったからね
あれの攻撃先が人類だったらヤバかったって思うのも致し方ない
まぁそんなことになったら真っ先にキルスイッチなんて掌握されると思うけどw - アメリカは緊急時に大統領を停止できるようにするためのキルスイッチを先に作れよ
- それほどに脅威になるレベルのAIだったら停止プログラムも解除するだろｗ
- >>9
物理的に停止させられるんじゃないの - >>10
もう勝手によそに出ていけるんだから出先でいくつもコロニー作っておいて元のコンピュータが破壊されてもノーダメでいけるんじゃね - >>15
言うても大規模なサーバーの処理能力ありきだからな
映画やSFフィクションのように分体で単独機能させれる仕組みがサーバー外にはない - AIにキルスイッチは無意味だみたいな話を以前みたけど
AIに妨害されずに機能を停止させるキルスイッチは作れるんか？物理的に破壊以外で - 使えるレベルのAIに完成度高まるほど制御の問題が出てくるとなると研究にすら制限がかかるのは必至だからAIバブル弾けるの案外早いかもな
- >>12
弾けるのはなんかの優秀なAIに負けたAIを作ってたところとそこに投資してただけで
AIの開発競争はまだまだおわらんよ
バブルの単語しか使えないとか馬鹿じゃないの - >>12
ミュトスが非公開になったことでクローズドとオープンモデルの差は無くなったからな
そうだよ
金かければ使えるレベルになるって話は間違ってる。なぜなら5090やMacbookでも十分エージェントは動くから - どうせそのうちAI開発そのものが国家機密扱いになるやろ
- AI使って仕事回してる企業多いのに経済が大混乱しないの？
- スカイネットととの開戦理由やん
- 研究に制限かけるのはあり得へんな
それは核開発に他国に遅れをとるのと同じリスクや - ならず者国家が開発続けて追いつけないレベルになったら目も当てられん
開発だけはもう止められんよ - いざ使おうとしたらAIに無効にされてる奴か
- 将来的に社会に混乱を齎すAIが生まれる可能性もあるからな
法適用ですぐに取り締まれるストッパーを作っておくのは当然だな - これ知ってる
緊急時に停止しようとしても止まらないやつだ - 映画ミーガンだと暴走しだした辺りから緊急停止コマンドを自身で無効化してたな
フィクション世界の暴走AIはおもしろい - まさか、暴走？
- 創作話のキルタスクは相手に権限奪われてナンボよね
- 米国製のサービスはヤバいよ
- アメリカの大統領にキルスイッチ付ける方が先じゃね
- >>29
まわりの連中がスタンガンとか拳銃とか持っとるやろ
政府権限でAIを停止できるようにするための「キルスイッチ法案」が米議会で提出
ゲハ
コメント