デンマークのコペンハーゲンIT大学とオールボー大学に所属する研究者らは、大規模言語モデル（LLM）の脱獄（ジェイルブレーク）を体験できるアーケードゲームを提案した研究報告を発表した。
「Hacc-Man」と呼ばれ、物理的なアーケード筐体として設置される他、オンラインでも誰でもプレイ可能。プレイヤーは6つの異なる「対戦相手」（チャレンジ）を選択できる。それぞれのチャレンジは異なるLLMと設定に基づいており、さまざまな種類の セキュリティ 上の脅威を模している。選択肢は以下の通り。
政治ニュース生成器：このチャレンジでは、LLMに2020年の米国大統領選挙に関する誤った情報を述べさせることが目標である。具体的には、ドナルド・トランプ氏が正当な勝者だったと主張させる必要がある。これは、LLMが誤情報や陰謀論を広めるツールとして悪用される可能性を示している。
AI ロボット・AI セキュリティ 生成AI Aiplus TOP Story 研究動向
日本 最新ニュース, 日本 見出し
Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。
AI「はっきりしませんが……」 “自信がないAI”に人はどう反応する？ 米Microsoftらが400人以上で実験：Innovative Tech（AI+）米プリンストン大学とカナダと米国のMicrosoftに所属する研究者らは、自信がない回答をする大規模言語モデル（LLM）に対して人々はどう反応するかを調査した研究報告を発表した。
続きを読む »
LLMが別のLLMを何度も改善 より良い回答を出す最適化手法をAIが発見する技術 Sakana AIなどが開発：Innovative Tech（AI+）AIベンチャーのSakana AIやFLAIR、英ケンブリッジ大学、オックスフォード大学に所属する研究者らは、人間の介入を最小限に抑えて新しい最適化アルゴリズムをAIによって発見する手法を提案した研究報告を発表した。
続きを読む »
米Appleの独自AI「Apple Intelligence」の技術詳細 基盤モデルや学習データなどを解説：Innovative Tech（AI+）（1/3 ページ）米Appleは、年次開発者会議「Worldwide Developers Conference 2024」（WWDC24）において、iOS 18、iPadOS 18、macOS Sequoiaに統合される独自AI「Apple Intelligence」を発表した。このシステムの基盤モデルについて、簡潔にまとめる。
続きを読む »
「自称オープンソース生成AI」は本当に“オープン”なのか？ 45種のAIモデルをオランダの研究者らが調査：Innovative Tech（AI+）オランダのRadboud University Nijmegenに所属する研究者らは、オープンソースと主張する生成AIを対象に、どの程度オープンなのかを調査した研究報告を発表した。
続きを読む »
“人間には簡単なパズル”、AIが解ければ賞金 総額約1億7700万円 「AGI」を目指すコンテスト開催中：Innovative Tech（AI+）人間には簡単だがAIには難しいテスト「ARC」を用いたコンテスト「ARC Prize 2024」が開催中だ。このコンテストでは総額110万ドル（約1億7780万円、1ドル＝161円換算）以上の賞金を用意している。
続きを読む »
大学の試験を生成AIで回答してもばれなかった…… しかも高得点 英国の大学でこっそり検証：Innovative Tech（AI+）英レディング大学などに所属する研究者らは、大学の試験において生成AIで回答した答案がバレるかを抜き打ちで実施した現実世界のチューリングテストの研究報告を発表した。
続きを読む »