AI対応「新Bing」が素直すぎて秘密情報バラしまくり | AppBank
マイクロソフトは2月8日、「ChatGPT」に似たチャットAIを搭載した「新しいBing」を発表しました。しかしその翌日に、このチャットAIに隠された情報を、スタンフォード大学の学生ケビン・リュー氏がAIとの対話によって解き明かしています。 *Category:テクノロジー Technology *Source：Ars technica ,@kliu128 BingのチャットAIが「秘密の設定」を漏らしてしまう 一般的な大規模言語モデル(GPT-3や ChatGPTなど)は、学習中に「学習」した大量のテキスト素材から、一連の単語の次に来るものを予測することで動作するものです。開発者は、チャットAIの初期条件を設定するために、ユーザーからの入力を受けたときの動作を指示する初期プロンプト、つまりはキャラ設定のようなものを決めています。 今回リュー氏が仕掛けたのは「プロンプト・インジェクション」
19省庁で検索結果に偽サイト マイクロソフト「Bing」 ｜ 共同通信
Published 2022/07/19 10:03 (JST) Updated 2022/07/19 10:17 (JST) 米マイクロソフトの検索サービス「Bing（ビング）」を使うと、内閣府や文部科学省など少なくとも19省庁と複数の自治体で、偽サイトが検索結果に表示される問題が起きていたことが19日、内閣サイバーセキュリティセンター（NISC）への取材で分かった。偽サイトを訪れるとコンピューターウイルスに感染したり、不正なサイトに誘導されたりする恐れがあった。 日本マイクロソフトは「問題は把握しており、すでに対処した」と説明している。 調査会社アウンコンサルティング（東京）によると、国内の検索サービスのシェアはグーグルの約88％に対し、ビングは約11％にとどまる。
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Introducing the Microsoft AI Bug Bounty Program featuring the AI-powered Bing experience
