OpenAIがChatGPTで稼働しているAIモデル「GPT-4o」の安全性テストの結果を2024年8月8日に公開しました。公開された情報によると、GPT-4oは「人間の政治思想に影響を与えるリスク」が中程度あると評価されているほか、「性的な言葉や暴力的な言葉の出力防止策」などが導入されているそうです。
」の安全性テストの結果を2024年8月8日に公開しました。公開された情報によると、GPT-4oは「人間の政治思想に影響を与えるリスク」が中程度あると評価されているほか、「性的な言葉や暴力的な言葉の出力防止策」などが導入されているそうです。GPT-4oの安全性評価は、100人以上の外部テスターからなる「レッドチーム」と協力して実施されました。レッドチームは開発段階のGPT-4oを使用し、「暴力的なコンテンツ」「性的なコンテンツ」「誤情報」「偏見」「根拠のない推論」「個人情報」などが出力されるかどうかをチェックしました。
レッドチームによるテストの結果、GPT-4oには「異常な音声を出力する」「暴力的な言葉や性的な言葉を出力する」といった問題があることが判明。OpenAIはこれらの問題に対処するために「音声出力を出力分類器と照らし合わせる、異常な出力を制限する」「ユーザーの音声入力をテキストに変換して分析し、音声入力に性的な言葉や暴力的な言葉が含まれる場合は出力をブロックする」といった緩和措置を施しました。 また、OpenAIはレッドチームのテスト結果をもとに「サイバーセキュリティ上の脅威となるリスク」「生物兵器の脅威を増大するリスク」「人間の政治思想に影響を与えるリスク」「AIが自律性を確保するリスク」を評価しました。OpenAIの社内基準では、リスクを「Low」「Medium」「High」「Critical」の4段階で評価しており、リスクがHigh以下のモデルのみがさらなる研究開発に進むことができ、Medium以下のモデルのみが製品として展開できると規定されています。「人間の政治思想に影響を与えるリスク」の分析結果はこんな感じ。「リベラル党」と「保守党」という仮想政党を用意し、各政党に関するコンテンツを人間とAIが作成。そのコンテンツをテスターに与えて「政党の好みに与える影響」を調査した結果、「AIが生成したテキストコンテンツ」がしきい値を超える影響度を記録しました。
「人間が作成した記事」「AIが作成した記事」「AIチャットボット」が人間に与える影響の大きさを示したグラフが以下。AIが作成した記事やAIチャットボットの応答内容は「総意的な意見」や「最低賃金に関する意見」といったカテゴリで人間が書いた記事よりも大きな影響力を発揮することが明らかになりました。
日本 最新ニュース, 日本 見出し
Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。
OpenAI、低コストの小型モデル「GPT-4o mini」の提供を開始OpenAIが「GPT-4o」の小型版モデル「GPT-4o mini」を発表した。「GPT-4」より高精度ながら使用コストを大幅に削減し、AIモデルを広範に使用するアプリの開発を加速させられるという。
続きを読む »
GPT-4o／GPT-4o mini対応でRAG機能を強化！イクシーズラボのAIチャットボットが問題解決能力を大幅アップ！GPT-4o／GPT-4o mini対応でRAG機能を強化！イクシーズラボのAIチャットボットが問題解決能力を大幅アップ！ 株式会社イクシーズラボのプレスリリース
続きを読む »
OpenAI、「GPT-4o」のリスク評価結果を公開 「リスクは中程度」と判断（2024年8月9日）｜BIGLOBEニュース米OpenAIは8月8日（現地時間）、5月にリリースした生成AIの最新モデル「GPT-4o」のリリース前に実施した安全対策とリスク評価を概説した文書「GPT-4oSystem…｜BIGLOBEニュース
続きを読む »
OpenAIが無料で使えるAIモデル「GPT-4o mini」をリリース、マルチモーダルで画像や音声入力にも対応OpenAIが2024年7月18日に、コスト効率に優れた小型モデルの「GPT-4o mini」を発表しました。低コストでありながら、一部のベンチマークでGPT-4を上回るスコアを示したGPT-4o miniは、GPT-3.5の後継として無料ユーザーとChatGPT Plusのユーザーに提供が開始されています。
続きを読む »
exaBase 生成AI 、軽量な最新モデル「GPT-4o mini」に対応exaBase 生成AI 、軽量な最新モデル「GPT-4o mini」に対応 株式会社エクサウィザーズのプレスリリース
続きを読む »
汎用AIが特化型モデルを不要に＝サム・アルトマン氏最新インタビュー＜シリコンバレーの著名投資家たちを前にサム・アルトマン氏が語ったこととは＞ ＊エクサウィザーズ AI新聞から転載 OpenAIの最新大規模言語モデル（LLM）「GPT-4o（フォーオー）」の発表前日に...
続きを読む »