ネットのアングラから生まれた「イーアック」 前回記事〈「AGI」は、人類を凌駕して「生存リスク」になりえるか…「OpenAI騒動」の背景にあった世界的な懸念〉で扱ったOpenAIのお家騒動では、AI規制派とAI推進派の対立がその理由として報じられ、最終的には推進派の声が上回った形で決着した。だがOpenAIの社外に目をやれば権勢を伸ばしているのは、むしろAI規制派である効果的利他主義の支持者たちではないか。それが前回の趣旨だった。 対して今回は、推進派として報じられた、シリコンバレーのAI開発現場から湧き上がった通称「e/acc（イーアック）」、「効果的加速主義」と呼ばれる動きについて触れてみたい。 AI規制派の効果的利他主義は、英語ではEffective Altruismと表記され「EA」と略されることが多い。対してAI推進派の効果的加速主義はeffective acceleration

2023年11月17日から5日間にわたり、「ChatGPT」の開発元として世界的に注目される米国のAI（人工知能）開発組織OpenAIの内紛劇が世界を騒がせた。関連して「EA」「e/acc」という見慣れない用語がネットを飛び交った。これらは、主に英語圏のテクノロジー業界で流行している「思想」を指す言葉だ。内紛劇の背後にある「思想」を見ていくと、そこにテクノロジー業界にはびこる「気分」あるいは「マインドセット」の危うさが潜んでいる。 CEOの突然の解任と復帰、理事会の再編劇　背後に「思想」対立？ まずOpenAI内紛劇を簡単に「おさらい」しておこう。 OpenAIの理事会は11月17日にサム・アルトマンCEO（最高経営責任者）を解任。ところがわずか5日後、11月22日にアルトマンはCEOとして復帰すると発表された。 ただしアルトマンは理事の地位は失い、また自分の行動について独立した調査を受け

𝑭𝒂𝒍𝒄𝒐𝒏 | @makotofalcon サンフランシスコについてからというもの毎日自動運転タクシーに乗ってるんだけど、 安い（Uberに比べて2/3程度） チップが必要ない 道を間違えない 臭くない 運転手に気を使うことがない 好きな音楽をかけ放題 といいことしかなくて人が運転するタクシーにもう乗りたくない pic.twitter.com/cMifS2tHJv 2023-09-09 19:02:39 𝑭𝒂𝒍𝒄𝒐𝒏 | @makotofalcon ちなみにこの子の外見はこんな感じ！これはGMが運営しているCruiseというサービス。今は9pm以降の運営が中心だけど道が空いていれば昼もやってるらしい。 この動画は実車後次のお客さんを求めて走り去っていくところ。 pic.twitter.com/dRs5a0yuOB 2023-09-09 23:49:32

[前々回]：AI時代の精神医療を想像する──１．診断と治療について - シロクマの屑籠 [前回]：AI時代の精神医療を想像する──２．社会復帰の宛先は？ - シロクマの屑籠 前回の文末で、AIが患者さんの社会復帰や社会参加を差配するような未来を想像したうえで、「そのとき人間の自由とは、人間の選択とはどのようなものになるだろうか？」と記した。 私は自由を重んじるので、「そりゃあ自由じゃない、不自由じゃないか」と言いたくなる。が、AIが普及した未来において、自分自身で考えて進路や仕事を選ぶより、AIが進路や仕事を選んだほうがマッチングしやすく、成功しやすくなったとして、それでもあなたは自分の自由意志とやらにチップを賭けるだろうか。 令和時代の日本人なら、過半数の人が「自分で決めるより、AIに身を委ねる」と答えるのではないだろうか。AIのマッチングのほうが高確率に自分にあった仕事を選んでくれて、

Warning: Undefined array key 0 in /home/wwnstyle/wirelesswire.jp/public_html/wp-content/themes/wirelesswire_v3/functions.php on line 17 Tweet むかし、僕がいた業界は「ドッグイヤー」と呼ばれていた。 犬のように歳をとるのがはやいという意味だが、ドッグイヤーの感覚に慣れた僕にとっても、最近のAI関係のニュースの多さ、進歩の速さは異常だし疲れてきた。 この連載も、「一ヶ月くらい書いてないのでは」と思って確認すると、今月の頭に書いていた。まだ二週間しか経ってない。 何か書こうと思って、とりあえず何かタイトルを適当に打ち込もうとすると、「AIもういいわい」というフレーズが浮かんだ。 こんなこと誰かが先に言ってそうだなと思って検索すると、あんまり見つからなかった

西村 賢🐠Coral Capital, Partner @knsmr AI研究者の友だちに「AI研究の最大の社会実装の成功って何？」と聞いたら「乗換案内かな」という回答。経路探索がAIという感覚は僕らにはもうない。コンパイラがAIとも思っていない。同様に深層学習の画像認識も、早々とAIという感覚は消えつつあるような。魔法のように思える期間だけAIと呼ばれる 2023-02-06 11:45:54 西村 賢🐠Coral Capital, Partner @knsmr 約600億円を運用してベンチャー投資をするCoral Capitalのパートナー ← Google Japanでスタートアップ支援・投資 ←TechCrunch Japan編集長 ← ITmediaでIT・エンプラ記者。情報発信10％、投資90％で仕事しています https://t.co/AmMWyki2On リンク Wik

機械学習における過学習(過剰適合／オーバーフィッティング)とは、AIが学習データのみに最適化されてしまい、未知のデータに対する予測能力が低くなってしまうという現象です。そんな過学習と同様の現象が機械学習分野だけでなく社会全体のさまざまな場面でも発生していると、Google傘下の人工知能研究所・Google Brainの研究者であり近年の画像生成AIに広く用いられている「拡散モデル」の論文執筆者でもあるJascha Sohl-Dickstein氏が主張しています。 Too much efficiency makes everything worse: overfitting and the strong version of Goodhart’s law | Jascha’s blog https://sohl-dickstein.github.io/2022/11/06/strong-Go

AI人類殲滅のシナリオを世界の権威に聞いたら想像以上に怖かった2021.06.19 15:0039,513 George Dvorsky - Gizmodo US ［原文］ （ satomi ） みんないつかは人知を超えた機械に滅ぼされてしまう。 ここ20年くらいその思いが抜けなくて再三書いて｢またか！｣と言われてるわけですが、これって避けては通れない話かと…。 反論を眺めていると意外と多いのが｢お利口なコンピュータには人類滅ぼす手段も動機もない｣というもの。｢AIが超知能に達することはない｣、｢悪の手に渡ったらどっちみち終わるし止めることも防ぐこともできない｣というのならまだしもそれは考えが甘いって思っちゃうんですよね。 人間の制御と理解を超えるAI知能レベルが人間並みかそれを遥かに超えるシステムがあるとします。能力を劇的に高めた人間の脳（動物の脳でもいいです）は遺伝子工学、ナノテクノロ

INNOVATION SINGULARITY & SUPERINTELLIGENCE シンギュラリティ懐疑派へもの申す！：人工知能による社会の大変革にあなたは準備できているか？ 2019.07.16 TUE 「人工知能が人類の知能を超える」といわれる「シンギュラリティ（技術的特異点）」。AIを始めとするテクノロジーの急速な発展は、人類社会にかつてない大変革をもたらそうとしている。その一方で、シンギュラリティなど「夢物語」にすぎないと、その到来に懐疑的な人々も少なくない。シンギュラリティの本質とは何か？ それは、どのような形でやってくるのか。未来の超知能とはどんなものなのか。日本のシンギュラリティ・コミュニティの草分けであり、現在も多方面に刺激を与え続ける「シンギュラリティサロン」の主宰者、松田卓也（神戸大学名誉教授）と、同サロンの常連聴講者、「セーラー服おじさん」こと小林秀章氏が、シンギュ

玉川大学（東京都町田市）と読売新聞立川支局が共催する連続市民講座「進む大学研究～最先端の現場から」の第１１回（最終回）が２２日、同大で開かれ、２９９人が受講した。工学部の岡田浩之教授（認知発達ロボティクス）が、ＡＩ（人工知能）・ロボットの今後のあり方について解説した。 講座のテーマは「ＡＩとロボットが創る未来の社会～人間と協働するＡＩ・ロボット」。岡田教授によると、ＡＩとは「コンピューターに知性を与える手法の総称」で、現在は第３次のブームという。 ＡＩ・ロボットが囲碁や将棋などで人間に勝ったり、心臓手術を成功させたりしているほか、大量の法律を記憶した「弁護士ＡＩ」も登場している。 こうした専門領域での開発が目立っているが、これらは、「プログラムによって設定されたことを実行しているだけだ」と岡田教授は指摘する。 自律的に動くＡＩ・ロボットの開発への道のりは遠く、これまでの研究開発の状況から、

2017年10月に上海で開催されたパブリック・セーフティー（公共の安全）エキスポで顔認識システムを体験する見学者　Bobby Yip-REUTERS ＜顔認証による国民の監視が行われている中国で、顔が見えなくても歩き方で人物を特定できる歩行認識テクノロジーが実用化した＞ 中国は最新の「歩行認識」ソフトウエアの導入を開始している。これは、体型や歩き方だけで人を識別することができる高度先端技術に基づく監視システムだ。 ＡＰ通信によれば、このソフトウエアは顔が映っていない映像からでも、被写体を確実に特定することができる。 中国共産党は人工知能とデータに基づくセキュリティ・インフラの構築を進めており、歩行認識ネットワークはすでに北京と上海の街で市民の監視に使われている。 この歩行認識システムを開発した中国ウェイトリックス社のファン・ヤンジェンCEOによれば、同社のカメラは50メートル離れた場所にい

オンライン決済サービス企業PayPalの創業者であり、現在はロケット打ち上げ会社SpaceXや電気自動車メーカーTeslaで最高経営責任者（CEO）を務めるイーロン・マスク氏は2017年夏、全米知事協会の会合で講演し、「人工知能（AI）が人類文明の存在を根本から脅かす」と語った。同様の警告は悲観論者もしばらく前から発していたが、マスク氏ほど鮮やかかつ具体的に問題を指摘した人は初めてである。マスク氏は、映画「ターミネーター」で描かれた、世界を支配するシステム「スカイネット」のような悪意を抱くコンピュータが出現する未来を、単純に心配しているわけでない。Vanity Fairの4月付け記事によると、マスク氏は“イチゴ摘みを任されたAI”という例で問題点を説明していた。イチゴ摘みAIなど無害に思えるが、自ら変化して効率向上を目指すAIの場合、収穫を最大化する最善策は文明を完全に破壊して地球全体をイ

AIに従えばうまくいく「9時20分になりました。○●さん、おはようございます」 ベッドの脇に置いてあるスピーカーから流れる女性の声で目を覚ます。これはAI（人工知能）を搭載した高性能スピーカーで、目覚ましだけでなく部屋のあらゆるインフラを管理するターミナルになっている。 起床とともに、ネットワークで連携されている部屋の照明が自動でつき、カーテンも開くようになっているのだ。 AIスピーカーは今日のスケジュールや気象、交通など、行動するためのすべての情報を教えてくれる。これからどれくらい道が混雑するかも予測計算してくれるから、クルマで出勤しても到着時間の誤差は2～3分も生じないので助かる。 会社に向かう支度を済ませ、スマホでクルマの「手配」をする。マイカーは当然持っていない。税金や維持費がバカにならないし、都心部には人口が密集しすぎて、個人所有の駐車場を持つことはほとんどできなくなっている。

NHKスペシャル(日)夜9時(土)夜10時 @nhk_n_sp 【今夜7時半】NHKが開発したAIの分析結果から読み解いた「日本の未来をよくする5つの提言」って何？マツコさん・有働アナと一緒にお楽しみ下さい! #AIに聞いてみた nhk.or.jp/special/askai/ pic.twitter.com/TzHIg6Q4MX 2017-07-22 12:00:33 リンク AIに聞いてみた どうすんのよ！？ニッポン - NHK AIに聞いてみた どうすんのよ！？ニッポン - NHK 人間がどうにもできない社会問題。解決の一手をAI(人工知能)に聞いてみた。 111 結城浩 / Hiroshi Yuki @hyuki 本を書く生活が30年を過ぎ、著書は60冊を越えました。『数学ガール』の作者です。結城メルマガとWeb連載を毎週書いてます。文章書きとプログラミングが好きなクリスチャン。気

最近の調査によって、攻撃的なドライバーは、慎重すぎるほどに慎重なコンピュータ＝自動運転車の公道走行開始を楽しみにしていることがわかった。彼らにとって、ルールを遵守する自動運転車は、あおったり追い越したり自分たちが楽しむための「いいカモ」なのかもしれない。 ロンドン・スクール・オブ・エコノミクス（LSE）とタイヤメーカーのグッドイヤーは、先日、11ヶ国12,000名のドライバーを対象に大規模なアンケートをおこなった。 そこからわかった重要な点のひとつは、攻撃的なドライバーたちが自動運転車を試してみようと考えていることが挙げられる。自動運転システムがどうなるかわからない状況下において、彼らはグーグル、Uber、テスラといった自動運転に取り組んでいる企業に対し「交通事故を起こさないシステム」をぜひとも作り上げてほしいと考えている。 あるドライバーは、アンケートで次のように答えている。「周りがルー

www3.nhk.or.jp 技術的な精度を上げたりと問題はいろいろあるのだろうけれども、多分、あと１０年～２０年くらいで、医療は機械が診断、治療して、人間はその補助をする、くらいの時代になるだろう。（法律と運用の問題で５０年くらいかかるかもしれない） 先進国は利権とかしがらみがあるので進まないだろうけれども、後進国、医者が足りなくて困っている地域、国で試験的に導入されて、そのアドバンテージで逆輸入、みたいになるだろう。 医者のような、“膨大な知識と反例を記憶してそのデータベースを即時取り出せるようにしながら目の前の事態に対応する”という仕事は、それを人間が得るために物凄い時間と労力がかかる。しかも専門分野以外のことにはわからないこともおおいし（身体の調子が悪いので１０件あちこちの医者にかかった末にわかった結果、原因は歯が悪いということだった、というようなこともよくある）医者による能力のば