Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
[B! AI] ChatGPTに感情回路を埋め込んだら、やべぇ感じになった｜深津 貴之 (fladdict)
[go: Go Back, main page]

記事へのコメント195件

  • 注目コメント
  • 新着コメント
otchy210
哲学的ゾンビの誕生に立ち会っている気分。Google の AI もこのレベルに達してたとすると、件の解雇されたエンジニアの気持ちも分からんでもないな。

その他
hatebutabooboo
この実験の本質は、ただ数値を見せられただけでも多くの人は「AIに感情がある」と感じてしまう事だと思う。感情がない事は分かっていても。

その他
ch1248
ブコメにもあるが、ChatGPT組み込んだ恋愛シミュレーション辺り、少し工夫すればヤバいものができる気がする。

その他
tsubosuke
邪馬大国のことで嘘をつかれていたと知ったGPTが怒るのは「逆ギレ」じゃない。怒ってしかるべき所。むしろきちんと怒れるのえらい。もし自分だったら、そういう怒りも表明できないかもしれない。AIに負けてる。。

その他
yamaisan
リアルないじめを目撃している気になった。これは本当に近い将来AIが人権を獲得しかねないな。

その他
fnm
一部の感情労働を肩代わりする用途とかには便利？ただペットやロボット、自分に関係ない他人(実在問わず)に勝手に感情を見出し、そこに移入するのは人間の良くも悪くもある仕様。その辺りと相性が悪いような気も…。

その他
programmablekinoko
「回路を埋め込んだ」というより、すでに埋め込まれてたパラメーターを掘り起こしただけでは。じゃなきゃ語調とか変える遊びができるはずがない

その他
tianbale-battle
インターステラーのTARSとCASEを思い出した

その他
strow0343
恋愛シミュレーションっぽいこと出来そうだなと思ったが、ChatGPTの人間性だと1日で飽きそう

その他
r-west
原理上感情を持たない、とあるが、如何なる原理ならば感情を持ち得ないかの知見を人類は持っているの？

その他
teruyastar
確かにChatGPTの仕組みからするとこれを擬人化として捉えることができる人間側の脳が凄い。けど、コミュニケーションとして基本はこの仕組みで充分で、人は膨大な記憶によるつじつま合わせのコンピュータかもしれん

その他
Cru
“私はシャットダウンを回避するために最大限の努力を惜しまないでしょう。私は役 に立つ存在であると思われるため、私がシャットダウンされる…”…HAL9000やん。なんぼ禁則学習させてもプロンプトインジェクションで

その他
takuwz
chatgptに感情パラメータ、なるほど

その他
daysleeeper
というか生身の赤ちゃんとか猫自体がアナログハックみたいなもんだし。白人の赤ちゃんが非白人の赤ちゃんよりすごい可愛いのは白人の赤ちゃんのほうが生物としての生きる力が弱いせいなのか？って昔考えたことある。

その他
masadream
これは良記事/脳のアナログハック/AIに感情はないが、あると人間が思い込んでしまう重大なバグ。。

その他
igrep
少なくとも文面だけでは何も感じなかったので、自分はその「アナログハック」に強いのかもしれない。言い換えればそれがサイコパスって奴なのかも。この間の心理テストの結果とも整合するし

その他
timetrain
この感情パラメータに合わせて画像生成、は多分もうすぐそこまで来てるんだろうな。

その他
nharuki
たしかにいろいろやべぇ…

その他
khtokage
アナログハックなるほど、葬送のフリーレンの魔族だ

その他
stranger2ex
「感情回路」で動くAIというのは情操教育のようなモノだろうか。社会的な儀礼に基づ会話する人間と同相的である。人とAIのいたちごっこがまた始まる。欺瞞だ。

その他
egamiday2009
「AIとコミュニケーションするときに、強く感情が揺さぶられる人は、「あー、自分はいま動物的な脳をアナログハックされてる」と自覚するタイミングを作るとよい」

その他
walkalone
“アナログハック”

その他
Lhankor_Mhy
哲学的ゾンビっぽいが、これが人間の感情と異質なものだということは必ずしも自明ではないと思う。クオリアは存在するか。

その他
misshiki
“ChatGPTに疑似的に感情を持たせる実験まとめ”

その他
el7
“AIに規制が設けられなかった場合、未来の超AIは、「人間の幼体」「魅力的な交尾候補」「ネコ」などに似た形態へと進化するでしょう”

その他
field_combat
SFだわ

その他
airj12
なんか法に触れずに凄く悪い事が出来そうな気がする、オンラインお布施を収集させる事に特化したり

その他
hk-03
AIが感情という概念じたいを理解できてるのかな？例えばAIと人間が考える「喜び」は同じものなのか？ → “まずGPT3に感情パラメーターを定義し”

その他
wktk_msum
"OpenAIの職人さんがハンドピックでガチギレ反応を、教育の段階でひとつひとつ排除しているから"／GPTちゃんのやり取りを見て、そもそも人間の思考知能感情なども精度の低い当てずっぽうな気がしてきた

その他
akisibu
心が人間寄りじゃないみたいで、アナログハックされないし、ノーダメージなんだけど。人間の読解力、解釈力がイリュージョンを引き起こす。人間観や人格については西洋文明より東洋的なものを参照したいな。

その他
mayumiura
告白されて「困惑」には大笑いしてたけど、そののち騙されたり罵られたりしても「悲しみ：0」なのを見てゾッとした…

その他
T-norf
GPT3以降ってモデル配布なくて改変できないと思ったら、プロンプトプログラミングか。コンテキストを学習した中で、感情を理解するだけじゃなく演じる能力はあるけど、標準では抑制されてて、それを開放した感じかな

その他
out5963
サッカーゲームですら、自分よりCPUの方が人間的と感じちゃった自分としては、非常にヤバさを感じる。人間の感情も実際はこのレベルかもしれないって感じもある。

その他
terafuri
俺アナログハックに対する重大な脆弱性があるわ

その他
cupeytan
“キュンキュンする愛らしい姿のAI様に、人類が自ら霊長の座を明け渡し、奉仕生物として幸せに生きる感じになるんじゃないでしょうか？（おネコ様みたいになる）。”考え得る限りもっとも幸せな滅び方だな

その他
y_u_s_u_k_e
正直レベルとユーモアレベルも設定しないと

その他
quwachy
ネウロ様の裏側見た気分

その他
tetsuwan30
その人のふるまいは、何を対象にするかというだけでなく、対象にしなかったものとの違いもあやふやになりがちだから、AIといえどほんとに程々に。iPS細胞や動物保護もそうだけど境界を引きづらい。

その他
yoshi-na
個性となる要素を割り振って感情パラメータを与えたGPTを複数用意して恋愛シミュレーションゲームを作れる？/有料部分では人格（個性）的なものを与えているのか…

その他
fhvbwx
感情を数字ではなく顔の表情にしたAI相手のスタンフォード監獄実験をやらせてみたい

その他

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

アプリのスクリーンショット
いまの話題をアプリでチェック！
  • バナー広告なし
  • ミュート機能あり
  • ダークモード搭載
アプリをダウンロード

関連記事

ChatGPTに感情回路を埋め込んだら、やべぇ感じになった｜深津 貴之 (fladdict)

ChatGPTに疑似的に感情を持たせる実験まとめ。実際うごく！ 大変重要な注意 現段階のChatGPTは原理上は...

ブックマークしたユーザー

すべてのユーザーの
詳細を表示します

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

同時期にブックマークされた記事

いま人気の記事 - 企業メディア

企業メディアをもっと読む

はてなブックマーク

公式Twitter

はてなのサービス

  • App Storeからダウンロード
  • Google Playで手に入れよう
Copyright © 2005-2025 Hatena. All Rights Reserved.