生成ＡＩ（人工知能）による「フェイク（うそ）ニュース」を見破るため、電機大手などが技術開発を急いでいる。ＡＩ自身がつくり出す偽情報「ハルシネーション（幻覚）」も社会問題化。世界的に法規制の流れが強まる中、急速な普及で表面化する課題の解決に力を入れている。
日立製作所はこのほど、生成ＡＩが作成した文章かどうかを見分ける技術を開発した。複数の類義語の中から、ＡＩの使用が判別できる単語を、お札の偽造防止技術になぞらえた「透かし」として設定。この単語が多用されていれば、ＡＩによる「透かし入り」の文章と見なす仕組み。
「透かし」を多重に設定することで判別の精度を高める。プログラミング言語を含め、さまざまな言語にも対応可能だ。こうした「電子透かし」技術は、画像や動画でも開発・導入が進んでおり、先端ＡＩイノベーションセンタの永塚光一氏は「各国で法規制が急速に進んでいる。生成元を示す技術の開発は加速しそうだ」と話す。 富士通が開発したのは、生成ＡＩの回答の根拠を抽出・検証し、矛盾点を提示する技術。例えば、道を渡ろうとする人の画像から、ＡＩが道路交通法違反を見つけ、それが間違っている可能性がある場合、矛盾点を示しながら「ハルシネーションが疑われます」などと指摘する。
日本 最新ニュース, 日本 見出し
Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。
「ウルトラマン」に似た画像提供の生成ＡＩ事業者、中国の裁判所が著作権侵害で賠償命令中国の裁判所が、生成ＡＩ（人工知能）による「ウルトラマン」によく似た画像について、ＡＩサービスを提供していた事業者に著作権侵害の責任を認め、損害賠償などを命じる...
続きを読む »
生成AIの幻覚で指定される「架空のパッケージ」に悪用の危険性があるとセキュリティ研究者が警告GPT-4やClaude 3のような大規模言語モデルは人間が書いたように自然な文章を生成できますが、時として事実に基づかない情報を生成する「ハルシネーション(幻覚)」という現象を起こします。セキュリティ企業・Lasso Securityの研究者であるバー・ラニャド氏が、ハルシネーションによって存在しないパッケージを組み込んだソースコードが生成され、実際に使われていると指摘しています。
続きを読む »
生成AIスタートアップ投資、幻覚解消技術に注目 米VC世界中で生成AI（人工知能）スタートアップへの投資が活発になっているが、その中で今後有望なのはどんな分野なのだろうか。ここ2年、生成AI企業に投資してきた有力ベンチャーキャピタル（VC）の米インデックス・ベンチャーズが今注力しているのが、精度の向上だ。一見確からしい誤情報を出す「ハルシネーション（幻覚）」や回答の偏りを減らす技術に積極投資している。インデックス・ベンチャーズはリード投資家として生
続きを読む »
「生成ＡＩは大きなビジネスチャンス、関連タスクフォースに社員１０００人が関与」…野村総合研究所・此本臣吾会長兼社長（2023年9月21日）｜BIGLOBEニュース野村総合研究所は、企業向けにシステムを提供するＩＴサービスと、経営コンサルティング部門をビジネスの柱に据える。生成ＡＩ（人工知能）の活用で、企業の生産性向上に貢献したいと考え…｜BIGLOBEニュース
続きを読む »