マイクロソフトがツイッター上にリリースしたAIチャットボットは、学習した差別的な言葉を投稿し、わずか1日で閉鎖となった。こうした「AIの暴走」抑止に挑む27歳の日本人に話を聞いた。 →「AIの暴走」抑止で起業 ハーバード卒日本人が米国で得た確信
「AIに仕事を奪われる」。そんな不安を抱いたことがある人は、多いのではないだろうか。画像生成や自動運転技術などAIの活用の範囲は広がる一方だが、「仕事を奪われる」よりも前に懸念すべきことがある。それが「AIの暴走」だ。
一例が米国の不動産検索サイト「Zillow」。同サイトがコロナ前から使用していた住宅価格を予測するAIモデルが、コロナ以後の需要の変化を見誤り、適正価格より大幅に低い価格で物件を販売してしまったのだ。運営するZillow社は、2021年第3四半期に330億円の損失を計上、従業員の25%を解雇した。 2016年には、マイクロソフトがツイッター上に、雑談を学習してユーザーと会話するAIチャットボットをリリースしたが、悪質なユーザーに不適切な言葉を吹き込まれ、差別的なツイートを投稿し、わずか1日で閉鎖となった。 こうした「AIの暴走」の抑止に挑んでいるのが「Robust Intelligence（ロバスト・インテリジェンス）」だ。同社は、2019年の創業。約10年間ハーバード大学で機械学習の限界を研究していたヤロン・シンガー氏と、その研究室生だった現在27歳の大柴行人（おおしば・こうじん）が、研究成果をベースに事業を起こした。
AI開発時に数百種類のテストを行い、コロナのような想定外の事態が起きても精度が落ちないか、人種や性別による差別的な結果を招かないかなどを検査するサービスを手がけている。日本企業では東京海上日動、楽天、セブン銀行、米国ではペイパルやエクスペディア、さらには国防省も導入している。
日本 最新ニュース, 日本 見出し
Similar News:他のニュース ソースから収集した、これに似たニュース記事を読むこともできます。
「細菌を殺す細菌」スプレー 大腸菌など食品への活用に期待 | Forbes JAPAN（フォーブス ジャパン）米食品医薬品局（FDA）のリコール商品リストには毎年、ロメインレタスから冷凍ファラフェルまで、複数の食品媒介疾患を引き起こす大腸菌（E. coli）で汚染された食品があふれている。米疾病対策センター（CDC）の推定によると、米国の年間の大腸
続きを読む »
僕が「行動する作家」開高健の味覚の描写から学んだこと | Forbes JAPAN（フォーブス ジャパン）日本ペンクラブが企画監修する「ふるさとと文学」というイベントが茅ヶ崎である、作家は開高健だ、行ってみませんか、と誘われて出かけた。開高健が茅ヶ崎に居を構えてそこで執筆していたということも、その時はじめて教えてもらった。現在は開高健記念館とな
続きを読む »
魚と野菜だけ。島原のpescecoが標榜する里浜ガストロノミーとは | Forbes JAPAN（フォーブス ジャパン）長崎県島原の海で揚がった魚と近隣の野菜だけでコースを構成、“里浜ガストロノミー”を標榜するレストラン「pesceco（ペシコ）」。店の前からは、オーナーシェフ井上稔浩氏が遊び、育ったという海が水平線まで見渡せる。長崎
続きを読む »
「低糖質で高タンパク」の食生活は頭の回転が鈍くなるという実験結果 | Forbes JAPAN（フォーブス ジャパン）運動不足で体重が増えて血糖値が上がってくると、人々は慌てて低糖質で高タンパクな食材を買いあさるようになります。そうでなくても私たちは、低糖高タンパクは体にいいと毎日呪文のように聞かされています。たしかに、そうした食事は肥満の人や血糖値が高め
続きを読む »
モチベを高める企業カルチャー。強い人的資本を積み上げるには？ | Forbes JAPAN（フォーブス ジャパン）このところ、急激に「人的資本」という言葉を目にするようになった。株式市場においても人材市場においても、その企業がどんな人的資本戦略を取っているかによって、競争力や成長力を評価する動きが強まってきている。これから人口が減少していく日本では特に
続きを読む »