AIの開発を一時的に止めるべき「人類への深刻なリスク」とイーロン・マスクら1000人の専門家が提言
画像出典：Twwiter
AI開発を止めろ！イーロン・マスクら「人類への深刻なリスク」と警笛
「AIの開発を一時的に止めるべき」という公開レターが話題になっています。イーロン・マスクやアップルの共同創立者スティーブ・ウォズニアッキら1000人のテック・リーダーが署名。理由は「AIには社会と人類への深刻なリスクがあるから」としています。
AI開発はこのところ急速な進展を遂げています。昨年末に発表されたChatGPTが、最新テクノロジーの主役に躍り出ました。それに加わったGPT-4の能力の高さが衝撃を与えています。
今回発表された公開レターは、非営利団体フューチャー・オブ・ライフ・インスティテュートによるものです。「AI開発者は手のつけられない開発戦争に巻き込まれている。当の開発者でさえも理解、予測、また確実に制御できない、これまで以上に強力なデジタル・マインドを展開しようとしている」と警鐘を鳴らしました。
出典：日刊ゲンダイヘルスケア
マスク氏ら、ＡＩ開発の一時停止訴え 「社会にリスク」
[２９日 ロイター] – 米実業家イーロン・マスク氏や人工知能（ＡＩ）専門家、業界幹部らは公開書簡で、ＡＩシステムの開発を６カ月間停止するよう呼びかけた。社会にリスクをもたらす可能性があるとして、まずは安全性に関する共通規範を確立する必要があると訴えた。
オープンＡＩが開発したＡＩ対話ソフト「チャットＧＰＴ」の最新版言語モデル「ＧＰＴ─４」に言及し、これを上回るシステムを開発停止の対象にすべきとした。
公開書簡は非営利団体「フューチャー・オブ・ライフ・インスティチュート（ＦＬＩ）」が発表。マスク氏や米アルファベット傘下ディープマインドの研究者、英スタビリティーＡＩのエマド・モスタク最高経営責任者（ＣＥＯ）、ＡＩの大家であるヨシュア・ベンジオ氏やスチュワート・ラッセル氏など１０００人以上が署名している。
独立した有識者が先端ＡＩ開発の安全性に関する共通規範を策定、実行、検証するまでＡＩの開発を停止するよう呼びかけた。
「強力なＡＩシステムは、好ましい効果があり、そのリスクが管理可能であると確信できる場合にのみ開発されるべき」とした。
書簡は人間と競争するＡＩシステムが経済的・政治的な混乱という形で社会と文明にもたらし得るリスクを詳述し、開発者に対し、ガバナンス（統治）担当の当局や規制当局と協力するよう促した。
ＦＬＩの広報担当によると、オープンＡＩのサム・アルトマンＣＥＯは書簡に署名していない。
マスク氏はオープンＡＩの共同創業者の１人で、同氏率いる電気自動車（ＥＶ）大手テスラは自動操縦システムにＡＩを使用している。
コーネル大学のデジタル・情報法教授、ジェームズ・グリメルマン氏は「テスラが自動運転車の欠陥ＡＩに対する説明責任を巡り、どれほど激しく戦ってきたかを考えると、マスク氏が署名するのは非常に偽善的だ」と指摘。
「（開発の）一時停止は良いアイデアだが、書簡はあいまいで、規制の問題を真剣に受け止めていない」としている。
オープンＡＩのサム・アルトマンＣＥＯやアルファベットのスンダー・ピチャイＣＥＯ、マイクロソフトのサティア・ナデラＣＥＯは書簡に署名していない。
オープンＡＩとアルファベットは現時点で、書簡に関するコメント要請に応じていない。マイクロソフトはコメントを控えた。
出典：Reuters
