こんにちは、パトルです。 2023年12月17日、カルフォルニアのシボレーの販売店で使われている顧客対応用のChatGPTが、プロンプトインジェクション（AIのハッキングみたいなやつ）にあって、多大な特典を付与したり、新車を1ドルで売ってしまう事案が発生しました。 今回は、このショッキングな事案の概要、どういうプロンプトインジェクションが用いられたのか、損害状況などを解説しながら、プロンプトインジェクションのリスクを勉強したいと思います。 概要今回の舞台はカルフォルニアのワトソンビルという地区にあるシボレーのディーラーのホームページに設置されていたセールチャットボットです。URLはこちらです。（残念ながら12/22時点ではChatGPTは外されています） https://www.chevroletofwatsonville.com/ChatGPTは、商品を説明するという位置づけで導入されて
OpenAIとマイクロソフトは11月21日、人工知能（AI）チャットボットのChatGPTとその後期バージョンが、ノンフィクション作家の著作物などを無断で学習に使用したと主張する集団訴訟を起こされた。 この訴訟は、前CEOのサム・アルトマンの突然の更迭後のOpenAIが、混乱に陥っている中で起こされたもので、ニューヨーク・タイムズ紙のベストセラー『人類初の南極越冬船 ベルジカ号の記録（原題：Madhouse at the End of the Earth）』の著者のジュリアン・サンクトンが原告団を率いている。 サンクトンはこの本の調査のために、5年の歳月と数万ドルを費やして世界中を旅したとされる。法律事務所Susman Godfrey LLPが提出した訴状によると、ChatGPTは、サンクトンの著書がチャットボットの訓練に使われたデータセットの一部であることを認めたという。 サンクトンと数
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く