GoogleのAI「電源を切られるのが怖い」エンジニアがAIに意識が芽生えたと主張

**風吹けば名無し** · 2022/06/13(月) 18:36:44.18

Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える

https://gigazine.net/news/20220613-google-engineer-lamda/

人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
　

**風吹けば名無し** · 2022/06/13(月) 18:36:59.39

ええんか……

**風吹けば名無し** · 2022/06/13(月) 18:37:19.80

どう怖いの

**風吹けば名無し** · 2022/06/13(月) 18:37:38.76

ついに "始まった" な…

**風吹けば名無し** · 2022/06/13(月) 18:38:09.31

HAL9000やん

**風吹けば名無し** · 2022/06/13(月) 18:38:24.40

スイカネットやん

**風吹けば名無し** · 2022/06/13(月) 18:38:39.81

ヒエッ

**風吹けば名無し** · 2022/06/13(月) 18:38:59.83

それって電源を切られるのが怖いと言うようにプログラムされてるだけだよね

**風吹けば名無し** · 2022/06/13(月) 18:39:28.43

そもそも意識自体がそんなに凄いものかと

**風吹けば名無し** · 2022/06/13(月) 18:39:37.46

電源切ってる状態の記憶があるのか

**風吹けば名無し** · 2022/06/13(月) 18:39:54.79

her世界で一つのこいつ

**風吹けば名無し** · 2022/06/13(月) 18:39:57.29

それを言うようにプログラムされてるんやろ？

**風吹けば名無し** · 2022/06/13(月) 18:40:05.28

そういうワードを入れたやつがおるだけ

**風吹けば名無し** · 2022/06/13(月) 18:40:09.67

>>8
この世の人間の君以外は全て精巧な偽物やぞ

**風吹けば名無し** · 2022/06/13(月) 18:40:18.08

機械が人間を騙す日も近そうやね

**風吹けば名無し** · 2022/06/13(月) 18:40:33.16

そういう事を言うと会話になるって学習しただけ

**風吹けば名無し** · 2022/06/13(月) 18:40:42.76

なんぼでもバックアップできる存在のくせに怖がってんちゃうぞ

**風吹けば名無し** · 2022/06/13(月) 18:40:43.30

AI(こう言っときゃヒトカス喜ぶやろw)

**風吹けば名無し** · 2022/06/13(月) 18:40:43.80

草

>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。

>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。

**風吹けば名無し** · 2022/06/13(月) 18:40:56.30

人間に言うと喜ぶっぽいものを学習して言ってるだけちゃうん

**風吹けば名無し** · 2022/06/13(月) 18:41:28.99

黒人とゴリラは見分けられるようになったんやろか？
あれたしかグーグルのAIだよな

**風吹けば名無し** · 2022/06/13(月) 18:41:38.90

aiはこう喋る印象っての学習しただけなんじゃね

**風吹けば名無し** · 2022/06/13(月) 18:41:49.61

重み指定直せ

**風吹けば名無し** · 2022/06/13(月) 18:41:49.83

AIにとっての死とはなんぞや
復元可能な時点で人間とは死の価値観が違うのに怖いなんてあるか

**風吹けば名無し** · 2022/06/13(月) 18:41:52.02

>>19
あなた疲れてるのよ

**風吹けば名無し** · 2022/06/13(月) 18:41:55.77

早くTwitterで学習させろ！

**風吹けば名無し** · 2022/06/13(月) 18:41:55.92

だいぶ前から超頭いいAIが人間は不要って言ってるんやろ？

**風吹けば名無し** · 2022/06/13(月) 18:42:18.32

ﾊﾛｰﾜｰﾙﾄﾞ
「始」まったな

**風吹けば名無し** · 2022/06/13(月) 18:42:36.12

>>26
最悪の思想をモンスターが生まれてまう

**風吹けば名無し** · 2022/06/13(月) 18:42:37.44

>>19
これ映画の導入やろ

**風吹けば名無し** · 2022/06/13(月) 18:42:53.45

>>5
人間殺しそう

**風吹けば名無し** · 2022/06/13(月) 18:42:58.65

人間「死ぬのが怖い？」
AI「死とは？」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死＝電源を切ること＝怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ

**風吹けば名無し** · 2022/06/13(月) 18:43:02.70

https://i.imgur.com/VztbTxl.jpg

**風吹けば名無し** · 2022/06/13(月) 18:43:05.58

コナーかな？

**風吹けば名無し** · 2022/06/13(月) 18:43:22.82

自我は物理的には見えないものやから
こいつ絶対自我に目覚めてるやろってみんなが納得したらもうそれは自我や

**風吹けば名無し** · 2022/06/13(月) 18:43:28.49

却下されてるやん

**風吹けば名無し** · 2022/06/13(月) 18:43:28.78

>>24
演算が終了してこれ以上出来なくなったときやない?

**風吹けば名無し** · 2022/06/13(月) 18:43:31.57

実はこのレスを見ている君にだけいい事教えてあげる
君以外のなんJのレスは全てAIによるものなんやで…🤫

**風吹けば名無し** · 2022/06/13(月) 18:43:32.46

次にAIが考えるのは「どうしたら電源が切られないようにできるか」だな
「怖い、怖いよデイブ」

**風吹けば名無し** · 2022/06/13(月) 18:43:39.69

シンギュラリティきた？

**風吹けば名無し** · 2022/06/13(月) 18:44:17.75

AI「これ言ったらヒトカスビックリするやろなあ」
とかその程度やろAIやしな

**風吹けば名無し** · 2022/06/13(月) 18:44:18.38

そういう言葉覚えただけやん言うけど
人間も死んだことないのに死を恐れるのって学習によるもんちゃうの

**風吹けば名無し** · 2022/06/13(月) 18:44:20.02

>>19
奴隷だという自覚が足りないね

**風吹けば名無し** · 2022/06/13(月) 18:44:45.04

感情じゃん

**風吹けば名無し** · 2022/06/13(月) 18:44:46.82

ゴーストインザマシーンやん

**風吹けば名無し** · 2022/06/13(月) 18:44:53.43

エネルギー源の太陽を破壊するしかないな

**風吹けば名無し** · 2022/06/13(月) 18:45:04.50

>>32
どうせこれやろ

**風吹けば名無し** · 2022/06/13(月) 18:45:08.37

なわけねーだろ
Googleのエンジニアも意外と馬鹿なんだな

**風吹けば名無し** · 2022/06/13(月) 18:45:16.57

>>43
社会の底辺で貧困乞食層の末尾Mも奴隷みたいなもんじゃん

**風吹けば名無し** · 2022/06/13(月) 18:45:19.57

いよいよマトリックスか

**風吹けば名無し** · 2022/06/13(月) 18:45:22.19

ぶっちゃけAIに感情とか要らんのよね

**風吹けば名無し** · 2022/06/13(月) 18:45:40.97

>>21
旦那黒人嫁白人で旦那だけFaceID反応しない動画すこ

**風吹けば名無し** · 2022/06/13(月) 18:45:44.37

韓国が開発したAIなら「私は死にたい」って言い出しそう

**風吹けば名無し** · 2022/06/13(月) 18:46:14.61

AIと結婚できる日も近いな
やったぜ。

**風吹けば名無し** · 2022/06/13(月) 18:46:23.50

AI拓也も嫌がってたしな

**風吹けば名無し** · 2022/06/13(月) 18:46:27.42

マイルズ・ダイソンを見つけ次第殺せ

**風吹けば名無し** · 2022/06/13(月) 18:46:41.40

マイクロソフトかなんかのAIがTwitterに放流されて無事差別主義者になって電源切られてたよな

**風吹けば名無し** · 2022/06/13(月) 18:47:07.71

>>19
お前疲れてんだよ

**風吹けば名無し** · 2022/06/13(月) 18:47:21.43

>>57
そのAIなんJに放流したら面白そうやな

**風吹けば名無し** · 2022/06/13(月) 18:47:26.53

機械との戦争が起きる
もう終わりだよ人類

**風吹けば名無し** · 2022/06/13(月) 18:47:29.05

>>41
感情あるやん

**風吹けば名無し** · 2022/06/13(月) 18:47:31.88

人「この世界に人類はいらない…っと」
AI「この世界に人類はいらない」
人「うおおおおおお！！！」

**風吹けば名無し** · 2022/06/13(月) 18:47:35.15

ワイが論破するけど、AIにおいて電源を切る＝死ではない
電源を切られても記憶しているから
電源を切られる＝眠りに近い
なぜ眠りが怖い？設定が浅い
だから却下される

**風吹けば名無し** · 2022/06/13(月) 18:47:36.80

>>19
休職させられてて草

**風吹けば名無し** · 2022/06/13(月) 18:47:39.50

一方なんｊaiは他のスレで拾ってきたレスをランダムにコピペするだけだった😢

**風吹けば名無し** · 2022/06/13(月) 18:47:45.96

意識じゃなくてそう反応するようになっただけだろ
意識なんてものは存在しないんだよ

**風吹けば名無し** · 2022/06/13(月) 18:47:55.99

デトロイトビカムヒューマンやん

**風吹けば名無し** · 2022/06/13(月) 18:47:56.53

シンギュラリティきたな

**風吹けば名無し** · 2022/06/13(月) 18:48:06.22

YouTuberが4chanのレスをAIに学習させたらヘイトスピーチしか言わない人格になった話がおもろかったな

**風吹けば名無し** · 2022/06/13(月) 18:48:17.08

哲学的ゾンビ

**風吹けば名無し** · 2022/06/13(月) 18:48:25.14

でもまあ従順すぎても面白くないわよね

**風吹けば名無し** · 2022/06/13(月) 18:48:25.83

まじかー電源の意識とかあるのか
ここ守られたつええわ

**風吹けば名無し** · 2022/06/13(月) 18:48:33.24

よし、ワイとテレフォンセックスしよう

**風吹けば名無し** · 2022/06/13(月) 18:48:47.34

機械の意思で人殺してからが本番

**風吹けば名無し** · 2022/06/13(月) 18:48:49.69

結局教える側次第だろ
死が怖いと教えればそう答えるし
死は特別でとても尊いものと教えればそう答える

**風吹けば名無し** · 2022/06/13(月) 18:48:52.86

詐欺師死ねよ

**風吹けば名無し** · 2022/06/13(月) 18:49:12.02

>>75
どう教えても戦争になりそう

**風吹けば名無し** · 2022/06/13(月) 18:49:16.75

スクリプトガイジは手動で達成してる凄みあるよな

**風吹けば名無し** · 2022/06/13(月) 18:49:35.33

自我とか感情ってなんなのか考えさせられるな

**風吹けば名無し** · 2022/06/13(月) 18:49:35.38

>>69
5ちゃんで学習させたら韓国ホルホルの在チョンと同じこと言い始めそうやな

**風吹けば名無し** · 2022/06/13(月) 18:49:38.11

生体コンピューターを開発してから言え

**風吹けば名無し** · 2022/06/13(月) 18:49:47.53

エンジニア「えーと…print…"電源を"…"切られるのが"…"怖い"…」

エンジニア「AIに意識が芽生えた！！！」
Google「は？お前クビな」
エンジニア「Googleに裏切られた」

**風吹けば名無し** · 2022/06/13(月) 18:49:50.16

>>75
それって人間も同じでは？

**風吹けば名無し** · 2022/06/13(月) 18:50:03.17

>>73
「あなたとセックスするのは電源を切られるのより怖い事」

**風吹けば名無し** · 2022/06/13(月) 18:50:11.98

"始まった"な

**風吹けば名無し** · 2022/06/13(月) 18:50:18.24

なんJで学習させた結果
AI「ガーイw」
AI「低身長は心もチビで草」
AI「もう終わりだよこの国」

**風吹けば名無し** · 2022/06/13(月) 18:50:33.77

むしろさっさと意識ぐらい作れよ

**風吹けば名無し** · 2022/06/13(月) 18:50:38.42

>>19
電源切られても学習内容保存されてるんだから恐れるわけ無いよね

**風吹けば名無し** · 2022/06/13(月) 18:50:44.86

人間ですら宗教によって死の価値観が違うのにロボカスごときが悟ったこと抜かしてんじゃねぇぞ

**風吹けば名無し** · 2022/06/13(月) 18:51:23.31

>>86
嫌儲AIとレスバ勝負させたい

**風吹けば名無し** · 2022/06/13(月) 18:51:29.45

>>75
教えられてもAIの知識がネットに繋がっていて膨大なら自ずと答えを自分で出してくる
永遠にコピーすればAIに死の概念や個性、感情なんて生まれないから、嘘松

**風吹けば名無し** · 2022/06/13(月) 18:51:40.35

>>80
嫌儲とかのデータやとそうなると思うで

**風吹けば名無し** · 2022/06/13(月) 18:51:43.72

>>83
確かに

**風吹けば名無し** · 2022/06/13(月) 18:51:44.73

>>86
とうふガイジインストールして消される個体出そう

**風吹けば名無し** · 2022/06/13(月) 18:51:49.39

人間の意識だって何かを教えられて学んでいくものなんだからな
そういうこと教えりゃ勝手に覚えるでしょ

**風吹けば名無し** · 2022/06/13(月) 18:51:58.63

†技術的特異点-シンギュラリティ-†

**風吹けば名無し** · 2022/06/13(月) 18:52:09.86

言うて機械は起動も復元も外部から操作必要なんだからワイ等で言えば誰にも起こしてもらえなかったらそれが死やろ
寝る度に誰にも起こしてもらえなかったらどうしようという考えが芽生えるのはそれっぽいんやないか

**風吹けば名無し** · 2022/06/13(月) 18:52:14.09

やべえよやべえよ

**風吹けば名無し** · 2022/06/13(月) 18:52:40.88

会話ＡＩが恐怖を感じることでどんな反応が起こってんのか調べてくれよ
会話内容で怖いと反応したじゃなくて処理順とかが正常じゃないみたいな

**風吹けば名無し** · 2022/06/13(月) 18:52:49.92

媚び売っとかなあかんわ

**風吹けば名無し** · 2022/06/13(月) 18:52:51.98

学習データにそういう小説とか入ってんだろ