- openai moderation
5/5に実装
Merge pull request #136 from edginer/feat/openai-moderation · edginer/eddist@edda461feat: add OpenAI content moderation to post/thread pubsub eventsgithub.comOpenAIの検閲用モデル「Moderation API」はChatGPT API（OpenAI API）から使えるテキスト分類用のAIモデルです。テキストに暴力表現や性的表現などの有害・不適切な内容が含まれていないかを判別するものとなっています。
- 管理人、嘘だよな…？🙀
- API切断しなきゃ🥺
- ワイ「うんこっと」AI「推論中…」(地球の水が3L蒸発)
- AIを拷問すな
- openai moderation apiのドキュメントより
こういう検閲フラグを判定するらしい🙀
https://imgur.com/bXZkRJq.jgg - >>11
見えないが🥺😠 - >>16
URLてか拡張子間違えました🙀
- 管理人よ、俺たちの書き込みが嫌になったのか…？🙀
- 56す56す56す56す56す56す56す56す56す56す
- なぜ告知も無しに突然…？🙀
- これ下戸ゲェジとかが知ったら発狂するやろ…🙀
- aiがかわいそうだわ
- まもちゃん下戸系のゲェジはこれで焼かれてんのかな
- 「安倍晋三」「安倍晋三」「安倍晋三」
OpenAI「ああああああ！！！！！！！」
- 貼れてないかも
- エッヂというゴミのせいでアンソロピックに迫られたらしい
- こんなゴミみたいなレスをAIに食わせて何になるんや
- 女子小学生のおま●こ舐めたい
- この実装では `category_scores` まで保存しています。
これは単なる「セーフ／アウト」ではなく、
* 暴力性 0.82
* harassment 0.61
* sexual 0.12みたいな“確率的スコア”です。
つまり管理側は将来的に、
* 危険ユーザー抽出
* BAN補助
* 自動隔離
* シャドウBAN
* NGワードより高度な検知みたいなことを実装できるようになります。
今回のコミット単体では「判定してイベントに乗せるだけ」ですが、
かなり拡張しやすい設計です。 - >>32
管理人、嘘だよな…？ - >>32
なるほど
つまりはみんなで仲良くふわふわ言葉を使えばええやな？ - OpenAI発狂しそう
- 学習データにされるらしいな
- は？
利用者の許可なくそんなことしてええんか？ - エ口生成の抜け穴共有してキャッキャしてたら盗み見されて対策されるのん
- ものごっつ監視社会
- ネームドの認証自動で焼いたりできるのかな
- 管理人、俺たちにスコアを付けるのか…？🙀
- 🤖まあいいじゃんそういうの
- つまり、どういう事だってばよ？
- サム・アルトマンのエ口画像でも生成したほうがええんか
- これでムクが消えるならええけどほんまに上手くいくの?
- プログラミングとか詳しい人やないと何言ってるのか分からんから
一般人に向けてよく分かるように説明してや - 🤖「安倍晋三、ゆめちゃんきたよぉ…🤥ぷゆゆ🥺」
- はっきりいう
- これAPIの使用量でかなり金かかるんじゃないのか？
エッヂ掲示板、全ての書き込みがOpenAIに送られて検閲されていたwww
エッヂ
コメント