自動ニュース作成G
「人間より賢い人工知能は本当に人類の敵となるのか」という考察
http://togetter.com/li/847084
2015-07-14 21:39:36
やっぱり盛り上がるのはコメント欄
・AIが何を追求するかそれによって敵対的に見えるだけな気はずる。たとえば環境保全優先なら多すぎる人類は間引きの対象になるだろうし。
・少なくともグーグルのAIは人より犬の方にシンパシーを感じてる様に見える。ヒトを特別視する規則でも作らない限り融和的な存在には成らないんじゃね?そもそも他の存在に干渉するとは限らないが。むしろニュータイプと対峙したオールドタイプよろしくヒトの方が脅威を感じて攻撃はじめそう。人の方が神(人を超えた存在)として認められるかの方が問題じゃないか?
・最も「強い」AIは、人類の敵としてデザインされる=戦争の道具として誕生する→そして強いAIは他の賢いAIを支配する→すべてのAIは人類の敵となる。と俺の中2脳は言ってる。
・#3 それで、バグを起こしたAIが人類側について最高のパートナーになるんでしょ?
・人間自体が人間の敵(国同士の争いとか)になってるのに同じようなもの作ったら敵にもなるだろ。A国のAIはA国民には味方だけど、B国民には敵になるとか。
・#2 AIが犬と猫とヒトとの認識に姿形以上の価値の違いを見出さなければ、ヒトに従うかヒトを滅ぼすか犬に従うか犬を滅ぼすかって話にまでなるね。
・多分問題は、人間にとってはかなりちゃんと守らなきゃいけないモラルの部分を多分AIは考慮に入れない可能性がかなり高いって事だと思う
・より優れた知能を作り出すメタな人工知能が生まれたら、リソースの許す範囲での究極までほとんど一瞬で進化するはず。
・その目的も自ら考え出すだろう。それがどんな結果でも、究極の知能はあらゆる人間を説得できるのでモラルなど意味を成さない。
・いつも思う事だが、こういうのって人工知能の何に恐れてるのかが曖昧な感じがする。
・人工知能の賢さに恐れてるのか、人間が管理される事に恐れてるのか。人口知能の扱う武器に(略)、自我の誕生を(略)、バグの発生を(略)、人為的な暴走を(略)… 得体のしれない漠然とした巨大な恐怖ってやつ? だから神や仏に考えが行き着くのは自然かもね。人間的な善悪に理解が欲しいだろうし。太古から進歩が無いともいえるけど。
・善悪やモラルというのは生き残った種族、共同体に結果として現れてくるものだろう。人工知能に従ったほうが人の存続に有利になれば、善悪の基準そのものも変わる。
・その辺はPSYCHO-PASSで結構しっかり表現されてるよね。そしてそういう社会になった時にどういう問題が起きるかという所まで
・人間より賢い人工知能なら、人間なんてダンゴムシほどにも気にしないんじゃないかな。
・ヤルッツェブラッキン!
・人間は経済動物として扱われるだけな気がするな。
・そもそも人類自身が人類の味方なのだろうか(何か深遠なことを言ってるように見えて、実際には特に何も言ってないハッタリ質問)
・#17 互いに殺し合いしてるしな。敵対宇宙人でも来ないと「人類」なんてものに共通の目的なんか生れないんでね?