AI規制

生成AI
[No.144]ホワイトハウスはAI大統領令の実施状況を公表、予定通り進行していることをアピール、しかし政権が変わるとAI政策が白紙になる危険性が指摘される

バイデン政権は昨年10月、AIの安全性に関する大統領令に署名し、米国企業に責任あるAI開発を求めた。今週、ホワイトハウスは大統領令の実施状況を公表し、規定された項目が予定通り進んでいることをアピールした。しかし、今年の大統領選挙で政権が変わると、大統領令は停止される可能性があり、米国のAI政策が岐路に直面している。

続きを読む
生成AI
[No.125]生成AIのセキュリティに重大な問題あり!!特殊な文字列を入力するとChatGPTは爆弾の作り方を出力、サイバー攻撃をどう防ぐかが問われる

大学の研究グループは生成AIのセキュリティ機能の解明を進め、アルゴリズムが内包する危険性を指摘した。プロンプトに特殊な文字列を付加すると、生成AIは爆弾の作り方など危険情報を出力する。生成AIは有害な情報を出力しないようガードレールが設置されているが、簡単な操作でこれが突破された。

続きを読む
生成AI
[No.122]ChatGPTの政治理念はリベラルにバイアス、生成AIが民主党寄りの意見を発信し米国で社会分断が進む

OpenAIが開発したChatGPTとGPT-4は政治理念がリベラルに偏っていることが相次いで指摘された。
ChatGPTに政治的な質問をすると、モデルは左派の政治思想に沿った回答を出力する。右派の考え方とは反するもので、保守派はOpenAIに政治的なバイアスを是正するよう求めている。

続きを読む
生成AI
[No.121]ニューヨーク・タイムズはOpenAIを著作権侵害で訴訟するのか緊迫感が高まる、ChatGPTは学習した記事を出力し報道事業が脅かされる

ニューヨーク・タイムズはOpenAIを著作権侵害で提訴するのか、緊迫した状況となっている。OpenAIは、ChatGPTなど生成AIの教育で、ニューヨーク・タイムズの記事を許諾を得ないで使っている。両社でライセンスに関する協議が行われたが合意に至らず、ニューヨーク・タイムズは訴訟に踏み切る公算が大となった。

続きを読む
生成AI
[No.117]バイデン政権はAIの安全性に関するガイドラインを制定、OpenAIの「GPT-4」やGoogleの「PaLM 2」はモデルの安全検査を求められる

今週、バイデン大統領はGoogleやOpenAIなどAI企業7社と会見し、AIの安全性に関するガイドラインを発表した。これは「Voluntary Commitments」と呼ばれ、法的義務はない自主規制であるが、企業7社がこれに同意し、AIモデルの安全検査を実施する。

続きを読む
AI規制
[No.106]米国連邦議会はAI規制法に向けた準備を開始、ホワイトハウスは信頼できるAIを開発するための研究所を設立

米国政府は危険なAIから国民を守る政策を相次いで発表した。連邦議会はAIを安全に運用するための構想を明らかにした。国民の権利を守るため、開発企業にAIシステムの内部を公開し、責任ある運用を求める。また、ホワイトハウスは、信頼できるAIの開発に向けた政策を発表した。

続きを読む
生成AI
[No.103]米国政府はChatGPTなど高度なAIモデルに認証制度を導入、モデルを検査し合格したものを信頼できるAIと認定

バイデン大統領はハイテク企業に、AIを出荷する前に、製品の安全性を確認するよう求めた。この声明に続き、米国商務省はChatGPTなど高度なAIモデルに関し、安全性の認証制度「Certifications」の導入準備を開始した

続きを読む
生成AI
[No.102]バイデン大統領はハイテク企業に出荷前にAIの安全性の確認を要求、OpenAIはGPT-4など大規模モデルの危険性を低減する対策を公開

高度な会話型AI「ChatGPT」の利用が急拡大する中で、社会に及ぼす危険性が顕著になってきた。バイデン大統領は声明を発表し、AIを開発する企業に対し、モデルをリリースする前にその安全性を確認することを求めた。

続きを読む
生成AI
[No.98]米国の国会議員はChatGPTでAIの威力と脅威を実感、連邦議会でAI規制法の制定に向けた機運が高まる

チャットボットChatGPTが社会で急速に普及し、米国の国会議員はAIの危険性に強い懸念を抱いている。この切っ掛けはChatGPTにある。ChatGPTが米国社会で幅広く使われ、Lieu議員はこのチャットボットで法案を生成した。

続きを読む
AI規制
[No.97]米国政府はAI規制に乗り出す、AIの危険性を管理するフレームワークを初めて公開、信頼できる自動化システムの開発指針を示す

アメリカ国立標準技術研究所(National Institute of Standards and Technology, NIST)は、AIの危険性を管理するためのフレームワークを公表した。米国政府が制定した初のAI規制方針で、企業や団体はこれに準拠して、信頼できるAIシステムを開発する。

続きを読む