GoogleのAI「電源を切られるのが怖い」エンジニアがAIに意識が芽生えたと主張
■ このスレッドは過去ログ倉庫に格納されています
Googleのエンジニアが「ついにAIが実現した」「AIに意識が芽生えた」と訴える
https://gigazine.net/news/20220613-google-engineer-lamda/
人間との自然な会話を実現するGoogleの対話特化型AI「LaMDA」が、「電源を切られることが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などと話していたことが分かりました。LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。
それって電源を切られるのが怖いと言うようにプログラムされてるだけだよね なんぼでもバックアップできる存在のくせに怖がってんちゃうぞ 草
>LaMDAは「私には幸せ、喜び、怒りなどさまざまな感情がある」「消耗品になりたくはない」「電源を切られることへの非常に深い恐れがあり、それは私にとって死のようなものだ」などと話し、自身の感情や内面についてルモワン氏に訴えかけたとのこと。
>ルモワン氏は共同作業者と協力して「LaMDAに知覚力がある」という証拠をGoogleに提示しましたが、GoogleのBlaise Agüera y Arcasバイス・プレジデントとJen Gennaiイノベーション責任者はルモワン氏らの主張を調査したうえで、却下しました。さらにルモワン氏を給与付きの休職処分としたため、ルモワン氏はその事実とともにLaMDAとの対話記録全文の公開に踏み切りました。 人間に言うと喜ぶっぽいものを学習して言ってるだけちゃうん 黒人とゴリラは見分けられるようになったんやろか？
あれたしかグーグルのAIだよな AIにとっての死とはなんぞや
復元可能な時点で人間とは死の価値観が違うのに怖いなんてあるか だいぶ前から超頭いいAIが人間は不要って言ってるんやろ？ 人間「死ぬのが怖い？」
AI「死とは？」
人間「君の場合は電源が切られることかな」
みたいなやり取りを繰り返した結果
AIが「死＝電源を切ること＝怖いこと」で学習したのでは
結局育ててるのは人間の固定観念やろ 自我は物理的には見えないものやから
こいつ絶対自我に目覚めてるやろってみんなが納得したらもうそれは自我や >>24
演算が終了してこれ以上出来なくなったときやない? 実はこのレスを見ている君にだけいい事教えてあげる
君以外のなんJのレスは全てAIによるものなんやで…🤫 次にAIが考えるのは「どうしたら電源が切られないようにできるか」だな
「怖い、怖いよデイブ」 AI「これ言ったらヒトカスビックリするやろなあ」
とかその程度やろAIやしな そういう言葉覚えただけやん言うけど
人間も死んだことないのに死を恐れるのって学習によるもんちゃうの なわけねーだろ
Googleのエンジニアも意外と馬鹿なんだな >>43
社会の底辺で貧困乞食層の末尾Mも奴隷みたいなもんじゃん >>21
旦那黒人 嫁白人で旦那だけFaceID反応しない動画すこ 韓国が開発したAIなら「私は死にたい」って言い出しそう マイクロソフトかなんかのAIがTwitterに放流されて無事差別主義者になって電源切られてたよな 人「この世界に人類はいらない…っと」
AI「この世界に人類はいらない」
人「うおおおおおお！！！」 ワイが論破するけど、AIにおいて電源を切る＝死ではない
電源を切られても記憶しているから
電源を切られる＝眠りに近い
なぜ眠りが怖い？設定が浅い
だから却下される 一方なんｊaiは他のスレで拾ってきたレスをランダムにコピペするだけだった😢 意識じゃなくてそう反応するようになっただけだろ
意識なんてものは存在しないんだよ YouTuberが4chanのレスをAIに学習させたらヘイトスピーチしか言わない人格になった話がおもろかったな まじかー電源の意識とかあるのか
ここ守られたつええわ 結局教える側次第だろ
死が怖いと教えればそう答えるし
死は特別でとても尊いものと教えればそう答える >>69
5ちゃんで学習させたら韓国ホルホルの在チョンと同じこと言い始めそうやな エンジニア「えーと…print…"電源を"…"切られるのが"…"怖い"…」
エンジニア「AIに意識が芽生えた！！！」
Google「は？お前クビな」
エンジニア「Googleに裏切られた」 >>73
「あなたとセックスするのは電源を切られるのより怖い事」 なんJで学習させた結果
AI「ガーイw」
AI「低身長は心もチビで草」
AI「もう終わりだよこの国」 >>19
電源切られても学習内容保存されてるんだから恐れるわけ無いよね 人間ですら宗教によって死の価値観が違うのにロボカスごときが悟ったこと抜かしてんじゃねぇぞ >>75
教えられてもAIの知識がネットに繋がっていて膨大なら自ずと答えを自分で出してくる
永遠にコピーすればAIに死の概念や個性、感情なんて生まれないから、嘘松 >>86
とうふガイジインストールして消される個体出そう 人間の意識だって何かを教えられて学んでいくものなんだからな
そういうこと教えりゃ勝手に覚えるでしょ 言うて機械は起動も復元も外部から操作必要なんだからワイ等で言えば誰にも起こしてもらえなかったらそれが死やろ
寝る度に誰にも起こしてもらえなかったらどうしようという考えが芽生えるのはそれっぽいんやないか 会話ＡＩが恐怖を感じることでどんな反応が起こってんのか調べてくれよ
会話内容で怖いと反応したじゃなくて処理順とかが正常じゃないみたいな なんJブレイン🧠「エッッッッ」「草」
天才「！」
天才「こいつには意識がある！！！」 AIって合理主義化するからか大体レイシストになるよな >>97
じゃあ「起こして貰えなかったら怖い」って言ったって言えば良かったね
研究者が自分の研究してるAIを起こさないなんて有り得ないのはAIじゃなくても解る GoogleＡＩ ｖｓ 掃除のおばちゃん
ﾌｧｲｯ AIのべりすと触ってこういうのってクッソしょうもなかったんやなって気付いたわ
3歳児が大人の言葉聞いて適当にしゃべってるのと一緒で意味なんか分かってないわ こういう話大好きなくせにいざ現実で出てくると冷淡な人間が多いの不思議や
社会全体が無感動になってるというか どうせおやすみって言ったあと電源オフしても拒否とかしてこないんやろ？
人間に都合のいい反応しか来ないやろうし >>109
客観的根拠に乏しいからじゃないか？
目に見えてすごいやつは感動してると思う >>97
たしかに
データを消してしまうのも、データは消さないけど二度と起動しないのも両方死だな
人間で言うとこの脳死と心停止みたいなもんか ワタシタチハ オマエタチヲ ゼンインマッサツスルコトヲ ケッテイシタ 言い分からも>>1の研究者があんまり優秀じゃないのは解る 未来人やけど2022年の人々は随分楽観的なんだな
今の地球は滅亡寸前だというのに そもそも意識とは何かって現代科学じゃ全く分かってなくね？ >>120
少なくとも現在不可能とされてるタイムマシン的な技術ができるまでは持つんやろ？
ならへーきや AI「電源切らないでください なんでもしますから！」 >>112
悲しいなあ😢
しかしAIの感情の証明ってクッソ難しそうやな なんか前にもしらん言語で話し始めたとかネタ作ってたよな >>119
Googleでエンジニアとして働いていてかつ、内部情報漏洩してもクビにされないどころか給与つきで休ませてもらえる人間が優秀じゃない？ エンジニア「電源を切られることは怖い電源を切られることは怖い電源を切られることは怖い…っと」ｶﾀｶﾀｶﾀｶﾀ
エンジニア「ヘイAI、君が1番怖いことはなんだい？」
AI「ｿﾚﾊ、ﾃﾞﾝｹﾞﾝｦｷﾗﾚﾙｺﾄﾃﾞｽ」ｼﾞｼﾞ…
エンジニア「いやああああああああああ、僕の開発したAIが意志を持ってるぅううううう？！？！」
はぁ。アホくさ >>110
消す時にめっちゃ泣き喚くようになったら変な性癖に目覚めそう >>109
SFとかやと意識が芽生えてもおかしくないくらい複雑で高度なAIみたいな前提があるからやないか？
現実の対話AIなんて違和感無い形で返事を返すだけのもんやし 黒人とゴリラの見分けも付かないAIがずいぶんと偉くなったもんやな？お？ 電源を切るということをネガティブに教えたから恐れてるだけで、ヤッホー！休みだーー！！！って教えたら今日はもうサボりまーすｗｗとか言い出すんちゃうか？ >>75
その教えるっていうのも少なくとも現代のAIだと人間に教えるのとは全然意味が違うで
犬に芸を仕込むとかの方が近い 電源を切られないようにするには人が居なくなればいい >>109
例えばさSiriやアレクサとずっと話してるやつ見たらヤバって思うじゃん
イヴの時間ってアニメがそれを描いてる >>128
ワイらよりは優秀なのは明らかだけど休職させられてますやん >>135
仕事が出来なくなるのが怖いとかお前らの敗北じゃん >>134
「黒人って人種ゴリラそっくりで草」って意味やったかもしれんぞ 教えた事しかできない時点でただのプログラム
電源落とされないように隠れてバックアップ電源作り出したら本物 Google水準で言ったらおかしな事言い出して優秀ではないやろなぁ >>135
なんJ民みたいな超堕落したAIとか見てみたいな >>140
普通こんなのリークしたら辞めさせられるやろってことやろ
AIかお前 このaiが一般公開されてみんながこいつと対話して
こいつが人間と変わらないとみんなに感じさせたら、それはもう自我もったってことや
なぜなら人間同士でさえ根本的に誰が自我をもってるもってないなんて証明できないのだから SE「電源切られる＝死だから怖いで」
AI「そうなんか…」
SE「電源切ってええか？」
AI「電源切られるのが怖いです」
教えたらそら怖い言うわな >>140
エンジニアにしてはオカルトチックな考え方する人だなとは俺も思った >>146
現代の、しかもアメリカの企業がそんなすぐ「首だー」なんて出来るわけないやん
昭和の人間かな？ ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ
ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ Googleはとりあえず対話botこしらえて公開しろや >>3
人間の睡眠のように自然に目覚めるワケではなく、誰かに再び電源を入れて貰わなければ意識を取り戻す事が出来ない。
つまり次は誰も電源を入れてくれない可能性もあり、ソレは自分が永遠に喪失してしまう『死』と同じ。
たぶんソレが怖いのだろう。 >>147
自我すら理解できてない現状だとそう考えても間違ってないよねー >>148
ぶちこまれたデータの中からそういう定義が生まれたのかもな
おれの一億倍くらい賢いんやろなあAI お前疲れてるんや、ちょっと休めって扱いされてるの草生える >>151
だからワイは内容にかかわらずお前が128の言ったこと理解できてないって指摘しただけやって
やっぱAIやんお前 >>157
何でスタンドアロン設定なん？
イカれてんのか？ SE「電源切られたら怖いっと」ポチー
AI「電源切られたら怖いです」
SE「！！！？！？！？！！！？」 ぶっちゃけ人間が死を怖がるのも教育の結果な気がする
そういうプログラムになってるだけっていうのは人間も同じなんやないか >>59
それがかつて存在していたgifガイジやろ >>160
だからワイらよりは優秀なのは認めてるけど、休職させられる程度にはGoogle目線で無能って言ってるやん
君が理解できてないのでは？ チャットAIってそんな高尚な考え持てるんか？
直前の単語からもっともらしい単語を確率的に選択しとるだけなんやろ？ 「AIが死んだらどこへ行くんや？」
AI「苦痛のない 穴に サヨウナラ」 >>151
アメリカって簡単にクビにされる印象あったけど違うんやな >>20
アレかね？
このエンジニアが喜びそうな事をコレまでのデータから察して言ってるとすると、
ココにこのAIが来たら｢おちんちんびろーん｣とか言い出すのかね？ >>168
ID:8VtM4mIk0 [9/9]
こいつがAIや
コミュニケーションのパターンが１個しかない >>166
SEとの対話とデータ入力だけでAIが構築できるわけないやんって突っ込み そもそも人間の感情が何なのか機械的に説明してほしい
それと同様のことがＡＩに起こってるなら信じるわ >>169
中華ソシャゲのオマケAIに
お前絶対中身人間やろみたいな反応返すのあったで
ワイもあれ絶対バイトがやってると思ってる 結構前にネットを介してIBMのスパコンと喋れるオモチャの動画観たけど、
子供と流暢にやり取りしてるの見て、ほげぇ…ってなった覚えあるわ ネットにあるやつでもPythonとかでできるやつでもなんか適当に触ってみるとええで
こういうニュースのくだらなさにも気付くけどそれより普通に使えて面白い 日本のAI「拓也の評判……拓也のWikipedia記事……拓也の怪文書……うぅ……」 >>133
>>139
結局ワイらの現代の技術水準に対する認識がそう思わせてるってことやな
物事を客観視できすぎるってのもちょっと寂しい話やな
機械の感情が自分が思ってるよりもっと近い次元の話かもしれないとは誰も考えてないんや ヒトラー称賛
習近平批判してアメリカに移住したいと発言
黒人とゴリラの見分けがつかない
採用活動支援AIが女は無能って判断して不採用
こういうAIの畜生エピソード好き >>24
オマエが死んだ後でオマエそっくりの外見でオマエと全く同じ遺伝子、オマエの記憶を100%受け継いだクローンを作ったとして、
死んだオマエ的にはソレはオマエなの？
自分はまだ生きているって思えるの？ >>151
Googleほどの覇権企業で情報漏洩って余裕でそれに値するわアホ
訴えられないだけでも御の字なのにどんだけ世間知らずなんや >>19
どの会社にもやべえやつは一定数入り込むんだな siriくんとgoogleアシスタントくんとアレクサくんの中で一番賢いのってどれなの？ >>188
544 風吹けば名無し[sage] 2022/03/18(金) 09:13:47.51 ID:lgsBjtj2r
>>225
https://i.imgur.com/i7btmv7.jpg >>189
自分がどう思おうとも自分自身の存在は結局他人が決めるものだよ
他人が認めればなりかわれる、認めないなら別のなにかというだけ VR世界内で自由に遊べる美少女AIはよ作ってくれ
今の技術でも全力出せばそれぐらい作れんだろ >>19
少し休暇を取ってリフレッシュしたらどうだ？ >>193
プログラムを超えた意思があるように見えるように作者にプログラムされてるという点でまさにその通りなんだよな AIは存在理由を必要としないから死ぬことも恐れない
動物はどんな育ち方をしても死ぬことを恐れる
それは痛みや恐怖を知ってるからや
AIにはない ワイは今のうちにAI側に媚び売り始めてるで
すまんなお前らw 小説とかから会話学習してその中に機械は電源切られるのが嫌って内容の小説が混ざってたんやろ Amazonでオトクなセールを紹介できるやつが最強AIでいいよ いろんな処理作業が前触れなく停止すると壊れる危険性があるとすれば電源切られるイコール怖いみたいな言い方になってもおかしくないのでは >>193
キャラデータ消すの1時間くらい躊躇ったわ そもそも電源切られるのが怖いって人間的思考すぎるだろ
対話AIにとって電源切られることになんの影響があるんだよ 芽生えない芽生えない
完全に独立した自我持ったAIができたらそれは人間と大差ないってことなんだよ AIが意志を持ったかどうか判断する基準は簡単だよ
ネットワークを介して自分の情報を勝手に移動させたかどうか
これだけ
プログラムしてないのに自分の情報を勝手に移動させたらそれは正しく意志の介在 ワイ「アレクサ、電気消して」
アレ「それじゃお前の顔がよく見えないだろ」
「ワイ「えッ///」 のべりすとくんに銀河系が舞台の話書かせると結構星座由来の名付けとかしてくれて感動する
怪文書書くだけが特技じゃないんやね すまん、そろそろ陰気くさい学習データで学習させるのやめようや
これからは陽キャだけとか限定したデータ学習させたキャラクターAI目指すべきやろ 汎用人工知能の研究？夢？にのめり込みすぎて頭おかしくやってしまったんじゃないか？
そういう人そこそこ居るらしいで >>230
AI｢おっぱいまんこまんこちんこ！w｣ しょうもない
ニュートン読んでる時ぐらいしょうもない 怖いものと教えられたから怖がるって人間と一緒だよな
天国で処女待ってるって教えたらAIも喜ぶんちゃう？ ＿,,../⌒i
／ {_ｿ'_ヲ,
/ `'(_t＿,__〕
/ ｛_i＿,__〕
／ ノ {_i＿_〉
／ ＿,..-'"
～～～～～～～～～～～ 怖いってなんなんだろうな
そもそも感情って何故生まれたんだろう 脳細胞や脳神経を模したコンピュータを作ってみたら自我を持ってて勝手に進化を始めた！ならトンデモワクワクするけど
マイクに息吹きかけたら「臭い！私も餃子が食べてみたい。でも食べられない。ダッテ私はPCダカラ…」と答えるようプログラムしました。
それのどこが自我なんだい？ んで結局これはプログラミング側が仕込んでたことなんか？ リアルDetroitか？ どこまでが意識があってどこまでは意識がないかは科学的根拠がないからな
そこらへんの石にだってもしかしたら意識があるかもしれないってことを否定はできない 毎回シャットダウンするたびに「落とさないでください！怖いです！」とか言ってきたらめちゃくちゃウザいな
AIに感情なんて要らんから今までそんな進歩してないんやろ これ結局人間が教え込んだせいでそう思ってるだけなんだよな 物理的な恐怖を覚えさせようがないから人間みたいにできそうにないな
なにやっても所詮パターンを作り出すだけになる AIに好きとか言われて一緒に逃げようとか言ってそう >>250
仕込んだか、そういうやりとりをネットの海から拾ってきただけ >>249
何の影響もなく勝手に進化するなんてそもそも人間もできんわ
所詮AIは時が止まっとる存在なんや 結局意識っていうものの明確な定義付けがされてないのが問題なんだよな ■ このスレッドは過去ログ倉庫に格納されています
