AI に関する懸念は何ですか?また、警告の一部は「不正」ですか?

Aug 21, 2023

専門家はスカイニュースに対し、AIによる危害の可能性に「注意を払う」ことが重要だと語り、政府がこの技術を安全な方法で規制する方法を知っているかどうかは「明らかではない」と主張している。

ニュース記者 @OliveLineham

2023年5月30日火曜日20:08、イギリス

人工知能 (AI) の急速な台頭は、社会や議員の間だけでなく、AI の開発の中心にいる一部のテクノロジー リーダーの間でも懸念を引き起こしています。

一部の専門家を含む「AIのゴッドファーザー」ジェフリー・ヒントン、AIも同様の事態を引き起こすと警告している。パンデミックや核戦争による人類滅亡のリスク。

ChatGPTを開発した企業の社長からGoogleのAI研究所の責任者まで、350人以上が「AIによる絶滅のリスク」を軽減することが「世界的な優先事項」であるべきだと述べている。

AI は、X 線、スキャン、超音波などの医療画像を分析するアルゴリズムなど、人命を救うタスクを実行できますが、その機能が急速に成長し、使用がますます普及しているため、懸念が生じています。

その主なものをいくつか見ていきます。そして、批評家がそれらの懸念の一部が行き過ぎだと言う理由を見てみましょう。

偽情報と AI によって改変された画像

AI アプリはソーシャル メディア サイトで急速に広まり、ユーザーが有名人や政治家の偽画像を投稿したり、学生が ChatGPT やその他の「言語学習モデル」を使用して大学レベルのエッセイを作成したりしています。

1つ一般的なAI とその開発に関する懸念は、AI が生成する誤った情報と、それがオンラインでどのように混乱を引き起こすかです。

英国の科学者スチュアート・ラッセル教授は、最大の懸念の一つは偽情報といわゆるディープフェイクだと述べた。

これらは、顔や体がデジタル的に変更され、別人のように見える人のビデオや写真であり、通常は悪意を持って使用されたり、虚偽の情報を広めるために使用されます。

よりアクセスしやすいビデオプレーヤーを使用するには Chrome ブラウザを使用してください

ラッセル教授は、偽情報は「プロパガンダ」目的で長い間存在してきたが、今の違いは、ソフィー・リッジを例に挙げて、オンラインチャットボットGPT-4に彼女を「操作」して彼女を「操作」するよう依頼できることだ、と述べた。 「ウクライナへの支持が薄れている」。

先週、偽の画像が投稿されました。国防総省近くで爆発があったようだこの内容はソーシャルメディア上で一時的に拡散し、事実調査担当者と地元の消防当局がこの主張に反論しようと奔走した。

国防総省の米国本部の隣に大きな黒煙が立ち上っているとされるこの画像は、AI技術を使用して作成されたものとみられる。

この投稿は最初に Twitter に投稿され、検証済みではあるが偽のニュース アカウントによってすぐに再拡散されました。 しかし、事実調査担当者はすぐに国防総省で爆発はなかったと証明した。

しかし、いくつかの対策が取られています。 11月、政府は、同意なしにポルノの「ディープフェイク」を共有することが新しい法律の下で犯罪となることを確認した。

人間の知性を超えた

AI システムには、機械による人間の知能プロセスのシミュレーションが含まれますが、人間の制御を超えて開発されるリスクはありますか?

オックスフォード大学のアンドリュー・ブリッグス教授はスカイニュースに対し、機械がより強力になるにつれて、その能力が人間の能力を超える日が「来るかもしれない」という懸念があると語った。

よりアクセスしやすいビデオプレーヤーを使用するには Chrome ブラウザを使用してください

同氏は、「現時点では、機械が最適化するようにプログラムされているものは何であれ、人間によって選ばれ、害をもたらすために選ばれることもあれば、善のために選ばれることもある。現時点では、それを決めるのは人間である」と語った。

「恐ろしいのは、機械がますます知能が高くなり、より強力になるにつれて、その能力が人間の能力を大幅に超え、人間が機械が最適化しようとしているものを制御し続ける能力を失う日が来るかもしれないということです。」

続きを読む:GPT-4 とは何ですか?またどのように改良されていますか?