ヨシュア・ベンジオが唱えるAIによる人類絶滅リスクに対する肯定派・否定派

西暦2,023年5月30日
非営利団体CAIS(センター・フォー・AI・セーフティー)が「AIによる人類絶滅のリスクを軽減する事は、パンデミックや核戦争等の他の社会規模のリスクと並んで、グローバルな優先事項であるべきだ」とする声明を、ホームページに掲載する。CAISは、以下のシナリオの可能性を示唆した。
①AIの武器化
例えば、薬物発見ツールが化学兵器の構築に使用される
②AI生成の誤情報が社会を不安定化し、集団的意思決定を損なう
③AIの力が益々少数の手に集中し、広範な監視と抑圧的な検閲を通じて狭い価値観を強制する体制を可能にする
④人間がAIに依存しすぎる衰弱化、映画「ウォーリー」で描かれたシナリオに似た状態になる
以下の人間が此の声明を支持し、署名した。
①ジェフリー・ヒントン
②モントリオール大学コンピュータサイエンス教授でケベック人工知能研究所創設者のヨシュア・ベンジオ
③AI研究開発企業であるディープマインド社共同創業者デミス・ハサビス
④サム・アルトマン
⑤アンソロピック社共同創業者ダリオ・アモデイ
⑥カリフォルニア大学バークレー校コンピューターサイエンス学部教授ドーン・ソング
⑦アメリカ下院議員テッド・リエウ
⑧ビル・ゲイツ
⑨百度社社長を務めた張亞勤
⑩オープンAI社共同創業者イリヤ・サツケバー
⑪xAI社共同創業者イゴール・バブシュキン
⑫ディープマインド社共同創業者シェーン・レッグ
⑬スタンフォード大学電気工学名誉教授マーティン・ヘルマン
⑭グーグル社最高研究・技術・社会責任者ジェームズ・マニカ
⑮中国科学院自動化研究所AI研究室教授・室長曽毅
⑯清華大学知能産業研究院助教授詹仙園
⑰ロシア人工知能協会研究部長アルベルト・エフィモフ
⑱電子機器メーカーHTC社中国社長アルビン・ワン・グレイリン
⑲北京電子科技学院教授張建一
⑳カリフォルニア大学バークレー校コンピューターサイエンス学部助教授アンカ・ドラガン
㉑CSR(戦略リスク協議会)CEOクリスティーン・パーセモア
㉒環境保護活動家でミドルベリー大学シューマン特別研究員のビル・マッキベン
㉓ラトガース大学(アメリカのニュージャージー州)気候科学特別教授アラン・ロボック
㉔IIP(国際平和研究所)副所長でVCDNP(ウィーン軍縮・不拡散センター)上級フェローのアンジェラ・ケイン
㉕中華民国初代数位発展部長唐鳳
㉖アンソロピック社共同創業者ダニエラ・アモデイ
㉗ユニバーシティ・カレッジ・ロンドンのコンピュータサイエンス教授でディープマインド社主任研究員のデイヴィッド・シルバー
㉕ディープマインド社COOリラ・イブラヒム
㉖カリフォルニア大学バークレー校コンピュータサイエンス学部教授スチュアート・ラッセル
㉗xAI社共同創業者呉宇懐
㉘グーグル社エンジニアリング担当副社長マリアン・クローク
㉙マサチューセッツ大学アマースト校情報・コンピュータサイエンス学部長を務めたアンドリュー・バルト
㉚オープンAI社ミラ・ムラティ
㉛プリンストン大学助教授でウェイモ社で自動運転の安全研究に従事したハイメ・フェルナンデス・フィサック
㉜スタンフォード大学コンピュータサイエンス学部助教授楊笛一
㉝トロント大学の法学及び戦略マネジメント教授でベクター研究所(カナダのオンタリオ州トロント)のカナダCIFAR AI議長のジリアン・ハドフィールド
㉞ハーバード大学憲法学名誉教授ローレンス・トライブ
㉟マサチューセッツ工科大学メディアラボ教授パティ・メイス
㊱マイクロソフト社CTOケビン・スコット
㊲初代マイクロソフト社CSO(最高科学責任者)エリック・ホービッツ
㊳スタンフォード大学教育フェローのピーター・ノーヴィグ
㊴西暦2,007年に計算機科学のノーベル賞と位置付けられるチューリング賞を受賞したジョセフ・シファキス
㊵エディンバラ大学助教授でアラン・チューリング研究所グループ研究リードを務めるアトゥーサ・カシルザデ
㊶スタンフォード大学人間中心人工知能研究所教授・上級研究員エリック・ブリニョルフソン
㊷ディープマインド社共同創業者ムスタファ・スレイマン
㊸スタビリティAI社共同創業者エマド・モスタク
㊹ディープマインド社主任研究員イアン・グッドフェロー
㊺オープンAI社共同創業者ジョン・シュルマン
㊻オープンAI社共同創業者ヴォイチェフ・ザレンバ
㊼xAI社安全アドバイザーのダン・ヘンドリックス

一元化　公式HP
https://uc-4.com/