AI(人工知能)が人間を攻撃する可能性ってあるの?

1: 名無しさん@おーぷん 2017/11/27(月)17:54:17 ID:NJ2
だとしたら危険じゃね??

28: 名無しさん@おーぷん 2017/11/27(月)18:19:01 ID:VJt
>>1が言いたいのは
無人機に既にAIが使われてるとかバグの話でも無く
攻撃するように設計されてないAIが自己の判断で攻撃するようになるか?ってことだよな?

30: 名無しさん@おーぷん 2017/11/27(月)18:20:52 ID:61C
>>28
マツダの自動ブレーキみたいに設計から間違えていなければ大丈夫

2: 名無しさん@おーぷん 2017/11/27(月)17:55:11 ID:NJ2
ターミネーターに出てくるロボットみたいなのと戦わないといけないの?

3: 名無しさん@おーぷん 2017/11/27(月)17:55:21 ID:K0Q
せやで

4: 名無しさん@おーぷん 2017/11/27(月)17:55:45 ID:QLT
ないない
少なくとも現在のAI研究の先にはそういうのはない

5: 名無しさん@おーぷん 2017/11/27(月)17:56:37 ID:NJ2
>>4
なんで断言できるの?

6: 名無しさん@おーぷん 2017/11/27(月)17:58:37 ID:QLT
>>5
現状研究されてるAIは、あくまで「作った人間の要求に応える」ものだから
自主性・主体性といった要素はカケラも存在しないから、作った人間の意図しない形で逆らうような事もありえるわけがない

7: 名無しさん@おーぷん 2017/11/27(月)18:01:48 ID:Hx2

>>6
作った人間が想定しない動きなんて
AIじゃないただのプログラムだって余裕であるじゃん

地球のためには人間を邪魔と判断みたいな古典的なSFまでいかずとも
人間への負担ガン無視で制御働いたりとかは起こり得るんじゃね?

9: 名無しさん@おーぷん 2017/11/27(月)18:06:00 ID:QLT

>>7
そりゃミスで想定外の動きをする事はあるだろうけど
ミスでそれまでなかった主体性を獲得するなんて事は奇跡が100回起こってもありえるわけがない

そういう人間側のミスでAIが人間にとって害悪になる動作をする事はもちろんあるだろうが、それを「AIが人間を攻撃する」と言うのは無理があるだろ
つかそれ自体は、およそ人間が作ったあらゆる物で起こることで、別にAIだけの問題じゃない

17: 名無しさん@おーぷん 2017/11/27(月)18:10:51 ID:Hx2

>>9
それはもう「意思」だの「主体性」だのの定義の問題じゃないかなぁ
どんなAIであれば主体性を持っていると言えるか説明するのがまず難しいやつ

自動芝刈りロボットが人間を感知できずにひき殺すのと
AI積んだ自動田植えロボットが近くの人間殺して肥料にすると良く育つって学習して実行するのは別問題で
AIの作りによっては起き得るんじゃね?

20: 名無しさん@おーぷん 2017/11/27(月)18:14:01 ID:AnU
>>17
> AIの作りによって
誰がそんなAI作るんだよって話だ
ほんと想像力ないヤツほど漫画やアニメを鵜呑みにして
エーアイガーって言い出すのな

21: 名無しさん@おーぷん 2017/11/27(月)18:14:47 ID:QLT
>>17
だから、それはその自動田植えロボットに適切な行動制限を与えなかった人間のミスだろ
「適切な安全措置を行わないせいで機械が人間に害する」のは、AIでなくても起こることそれを「AIが人間を攻撃」とするのは無理があるんじゃね

8: 名無しさん@おーぷん 2017/11/27(月)18:04:21 ID:VJt
そういうふうに作れば

13: 名無しさん@おーぷん 2017/11/27(月)18:07:37 ID:XFw
そうなん?
AIって人間の要求に応えるというより自ら学んで行動するんちゃうん?むしろ主体性重視してるんちゃうん?

15: 名無しさん@おーぷん 2017/11/27(月)18:09:39 ID:QLT
>>13
その学習もあくまで作った人間が与えた範囲のもの
例えば、チェスや囲碁や将棋といったゲームを学習して自己強化するAIは実現できても
その延長上に「チェスは飽きたから将棋をやりたい」と言い出すようなAIが生まれる可能性は皆無って事

18: 名無しさん@おーぷん 2017/11/27(月)18:11:30 ID:XFw
>>15
なるほど
たしかに

19: 名無しさん@おーぷん 2017/11/27(月)18:12:14 ID:K0Q
街中で全裸のマッチョを見つけたら気を付けろよ

23: 名無しさん@おーぷん 2017/11/27(月)18:16:32 ID:4pm
最近話題のAIは「人間に見えるようにふるまうもの」に過ぎず
意志をもたせるとかそういうのでは全くないからな

32: 名無しさん@おーぷん 2017/11/27(月)18:21:59 ID:4pm

そりゃ包丁だって不注意な奴が使えば足に落とす可能性があるだろ

そういう話

34: 名無しさん@おーぷん 2017/11/27(月)18:24:46 ID:Fww

イッチはロボットの話をしたいんやろうな

ロボット3原則に基づいて作られてるからへーキヘーキ

56: 名無しさん@おーぷん 2017/11/27(月)18:45:11 ID:GXw
>>34
製造目的を考えれば、容易に人を害せるロボットにロボット三原則が組み込まれることはありえない

39: 名無しさん@おーぷん 2017/11/27(月)18:33:24 ID:VHD

こう言う場合は

AIが人間を攻撃するまでのストーリーを考えるのが先決だろうな

AIが人間を攻撃する可能性があるとしたら
人間がAI(この場合強いAIってやつね)を攻撃したり

AIにやむなく人間を攻撃させるような状況になった場合
人間が地球温暖化→地球滅亡→AIも滅亡 人間減らさなきゃ!とか

41: 名無しさん@おーぷん 2017/11/27(月)18:34:48 ID:VHD

>>39
先に言っておくけど
この例が現実味を帯びてくるのは十年後かもしれないし
五十年後かもしれないし、百年後かもしれない

いつ起こるのかはわからないけど、AIが人間並み、それ以上に賢くなった場合ありえそうなパターンを想定している

42: 名無しさん@おーぷん 2017/11/27(月)18:35:52 ID:GC2
まともなAIの話が珍しくされてるな
質問なんだが結局現代のAIってどういうものなの?
ふわっと理解してるからいまいちわかってない

46: 名無しさん@おーぷん 2017/11/27(月)18:37:17 ID:61C
>>42
ただの溜め込んだデータ処理
PC性能が上がったからAIっぽく見えるだけ

47: 名無しさん@おーぷん 2017/11/27(月)18:38:44 ID:GC2
>>46
つまりマクロ的単純計算をしてるだけ
ただし蓄積された情報が多く
検索速度が早いって感じか?

50: 名無しさん@おーぷん 2017/11/27(月)18:40:00 ID:61C
>>47
そんなもん

54: 名無しさん@おーぷん 2017/11/27(月)18:43:22 ID:GC2

>>50
どの程度のことができるのかが今一番わからんのだよな
例えばの話なんだがPDFファイルの表をExcelに作り変える
見た目も似たようにするってのはできるのか?

それができるとしてJPGデータの文章を正しくデジタル化できるか?
あるいは失敗をしたとしても学習して正しくできるようになるか?ってのが疑問

58: 名無しさん@おーぷん 2017/11/27(月)18:46:16 ID:61C
>>54
キャプチャーとかかなり良くなってるけどね
文字認証とかさ
でも正しくデジタル化ってどこまで求めてるかわからんけど
きっとその希望するレベルのはまだじゃね

65: 名無しさん@おーぷん 2017/11/27(月)18:48:43 ID:GC2
>>58
例えば認識ミスを文脈の流れから判断したり
成否を教えることで精度が勝手に上がっていったりみたいなのを期待してる
ネットで文字認識ソフトを多くの人が使って間違いを修正すれば
ソフト自体はほっといても良いみたいな

70: 名無しさん@おーぷん 2017/11/27(月)18:53:29 ID:61C

>>65
今でもある程度はやってるのよ
予測変換がそれだし
グーグルが必死にデータを集めているのもそれだし

英語のスペルチェックと日本語じゃデータ量が違うやろなと

57: 名無しさん@おーぷん 2017/11/27(月)18:46:11 ID:GC2
自動ブレーキシステムが動かないのはAIの反乱みたいな話か?

66: 名無しさん@おーぷん 2017/11/27(月)18:48:43 ID:61C
>>57
加減が難しいのよ
そこまで判別することができないとか
どこまで回避していいものかとか

64: 名無しさん@おーぷん 2017/11/27(月)18:48:39 ID:K0Q
そも人間の意思とはなんなのか

72: 名無しさん@おーぷん 2017/11/27(月)18:54:56 ID:4pm
>>64
意識と認識と記憶

76: 名無しさん@おーぷん 2017/11/27(月)18:58:17 ID:GC2
結局俺レベルに説明するなら
すげえExcelだよ!で当たらずとも遠からずなんだろ?

91: 名無しさん@おーぷん 2017/11/27(月)19:07:49 ID:4pm
意識があるわけじゃなく
アルゴリズムを実施してるだけだから
「ただのデータ処理」で合ってるんじゃないか

97: 名無しさん@おーぷん 2017/11/27(月)19:15:11 ID:K0Q
人間の脳の何がそんな特別なんやろなぁ
結局はアメーバからの発展形やろ?

106: 名無しさん@おーぷん 2017/11/27(月)19:22:11 ID:5lD
意思を持足せないようにすれば大丈夫。

109: 名無しさん@おーぷん 2017/11/27(月)19:23:11 ID:K0Q
結局は桁が違うだけで本質的には同じもんだったりしないだろうか
人間が自分には自由意思があると思ってること自体がむしろエラーであって
複雑化しすぎた処理をそう思ってるだけ

119: 名無しさん@おーぷん 2017/11/27(月)19:28:06 ID:RnN
危惧してる科学者や実業家はいる
AIも既に宣言してる

引用元: ・AI(人工知能)が人間を攻撃する可能性ってあるの?