- 技術的特異点/シンギュラリティ190【技術・AI】
234 ：オーバーテクナナシー[sage]：2020/07/25(土) 16:40:21.92 ID:sWvaEwOt - OpenAIの概要
CEO: Sam Altman（ベンチャー向け投資企業の元社長 企業価値1.5兆円超え）
従業員150名
2015年 Elon Musk（人類滅亡の危機感から）, Sam Altman（オープンソースの提供と発展）が合わせて１０億ドル投資、
９人のAI研究者で結成。
Googleに所属していたSutskeverは博士課程アドバイザー（Geoffrey Hinton）からの恩がありながらも
あまりにOpenAIのメンバーが魅力的だったのでグーグルから移籍した。
2018年 Elon Muskのテスラ社が完全自動運転を目指すことで、OpenAIとの利害関係が生じCEOから退任した。
|
- 技術的特異点/シンギュラリティ190【技術・AI】
235 ：オーバーテクナナシー[]：2020/07/25(土) 16:41:25.93 ID:sWvaEwOt - >>234のつづき
業績やできごと
2019
In April 2019, OpenAI Five defeated OG, the reigning world champions of the game at the time, 2:0 in a live exhibition match in San Francisco.
The bots' final public appearance came later that month, where they played in 42,729 total games in a four-day open online competition,
winning a percentage of 99.4% of those games.
OpenAI Five is the name of a team of five OpenAI-curated bots that are used in the competitive five-on-five video game Dota 2,
who learn to play against human players at a high skill level entirely through trial-and-error algorithms.
マイクロソフトが10憶ドル投資。
2020
GPT-3 dramatically improved benchmark results over GPT-2.
GPT-3's fully trained model was not immediately released to the public on the grounds of possible abuse,
though OpenAI planned to allow access through a paid cloud *API* after a two-month free private beta that began in June 2020.
*API*
In June 2020, OpenAI announced a multi-purpose API which it said was "for accessing new AI models developed by OpenAI"
to let developers call on it for "any English language AI task."
→非営利団体が商売はできないため、2019年に営利をある程度制限する団体へシフトした。
|
- 技術的特異点/シンギュラリティ190【技術・AI】
237 ：オーバーテクナナシー[sage]：2020/07/25(土) 17:03:44.77 ID:sWvaEwOt - DeepMindの概要（日本語wiki以外の情報）
2017 AlphaGo
AlphaGo won a three-game match with Ke Jie, who at the time continuously held the world
No. 1 ranking for two years.
2018 AlphaFold（任意のタンパク質の折り畳み予測）
In 2016 DeepMind turned its artificial intelligence to protein folding,
one of the toughest problems in science.
DeepMind's AlphaFold won the 13th Critical Assessment of Techniques for
Protein Structure Prediction (CASP) by successfully predicting the most accurate structure
for 25 out of 43 proteins.
2019 AlphaStar
DeepMind introduced AlphaStar, a program playing the real-time strategy game
StarCraft II.
AlphaStar reached Grandmaster level on the StarCraft II ladder on all three
StarCraft races, becoming the first AI to reach the top league of a widely
popular esport without any game restrictions.
|
- 技術的特異点/シンギュラリティ190【技術・AI】
238 ：オーバーテクナナシー[sage]：2020/07/25(土) 17:11:54.36 ID:sWvaEwOt - OpenAIはこれからAPIでビジネスをするが、
DeepMindはすでに予防医療診断と電気節約関連でビジネスをしているようだ。
それに同社はAIをロボティクスと融合させて、現実の世界で次の業績を狙っている。
それにAlphaFoldはタンパク質の予想だから、ナノマシンを作る上では第１登竜門というところか。
詳しくはGoogle Podcast の DeepMindを聞いてくれ。
OpenAIはまだまだ遅れてるが、Googleを脅かす存在になってきているのは
うれしいな。半分非営利団体だし俺の好感度もぼちぼちw
|
- 技術的特異点/シンギュラリティ190【技術・AI】
239 ：オーバーテクナナシー[sage]：2020/07/25(土) 17:34:47.95 ID:sWvaEwOt - だいたい、業績からだいたい１〜２年遅れていると思う。
マスクは資金提供は続けているが、
テスラ社の自動運転技術の開発参入や
テスラ社のインフラ事業や生産工場での
AI活用などでも参入させて資金で人を集めるべき。
GoogleやFacebookにAI技術者の給料水準は劣るが、
それでも他の非営利団体よりはかなり高い。
Sutskeverがわざわざお金を捨てて来るくらいだから、
魅力的だ。いずれにせよシリコンバレーで活躍できるI技術者を雇うのは、
全アメリカンフットボールチームのNo1エースより高いからなｗ
|
- 技術的特異点/シンギュラリティ190【技術・AI】
241 ：オーバーテクナナシー[sage]：2020/07/25(土) 17:53:47.58 ID:sWvaEwOt - >>240
おちとしては、wikiの情報を見て書いただけなんだ
AGIは第１次産業革命をしのぐといってもここの住人は反対しないだろう。
ナノテクノロジーは第１次産業革命をしのぐ。
電気やインターネットも残念ながら第１次産業の生産性の爆発的成長には
負けている。
すごいところは、AGI相当である分子レプリケーターまでいかなくても
第１次産業革命をしのぐことなんだ。
これは、ナノテク研究者のフロンティアのドレクスラーが主張している。
ここら辺の情報はまだ巷に出回ってないけど、
カーツワイルやストールズ・ホールが言うには、だいたい２０３０年代だから
覚悟しておくように（^＾）
|
- 技術的特異点/シンギュラリティ190【技術・AI】
242 ：オーバーテクナナシー[sage]：2020/07/25(土) 18:04:12.64 ID:sWvaEwOt - ちなみに、分子レプリケーターを作って、自由に操作・変形・改善（修理・解体含む）ができる
ダイソン球のような超巨大構造物ができるのは２０世紀後半以降にはなるとは
個人的には思うが、この技術の名称がないというか見つからないから
勝手に決めうぜ。
Micro-Manuevering controlはあるゲームで繊細な操縦をするスキルだから、
Macro-Manuevering controlという名称を思いついた。
超巨大構造物をナノスケール精度で操作・変形・改善（修理・解体含む）を
超高速で実現する技術。
|
- 技術的特異点/シンギュラリティ190【技術・AI】
243 ：オーバーテクナナシー[sage]：2020/07/25(土) 18:08:52.73 ID:sWvaEwOt - ターミネーター２の敵役の液体金属をイメージしてほしい。
分子レプリケーターであれを制御する技術は集中管理／分散管理問わず
必要な技術となっている。
ドローンの集団操作技術を拡張したようなものなんだけどな。
あれは、なんていうんだ。
|
- 技術的特異点/シンギュラリティ190【技術・AI】
245 ：オーバーテクナナシー[sage]：2020/07/25(土) 18:19:29.84 ID:sWvaEwOt - Perfect Macro-manuevering controlでPMmCにするか、
Artificial God-hand control（AGhC)にするか
Godhandはなかなかいいな。
アダムスミスのいう経済に介入する見えざる手を思い出す。
どうせ、権威ある人がすでに決めているか、
決められるだとうけど
|
- 技術的特異点/シンギュラリティ190【技術・AI】
247 ：オーバーテクナナシー[sage]：2020/07/25(土) 18:27:08.25 ID:sWvaEwOt - 日本風に言えばなんだろう。
技術的な名称は美しく花や風景に例える動きがある。
江戸時代の疫病のワクチン技術『遁花秘訣』みたいに。
>>244
同意するよ
|
- 技術的特異点/シンギュラリティ190【技術・AI】
248 ：オーバーテクナナシー[sage]：2020/07/25(土) 18:30:24.20 ID:sWvaEwOt - 『富岳』もセンスあるよな。日本は素晴らしい。
>>246
あれは技術者から完全SFって言われてる。
フォグレットやら分子レプリケーターがそれ風に振舞えばいい。
|
- 技術的特異点/シンギュラリティ190【技術・AI】
250 ：オーバーテクナナシー[sage]：2020/07/25(土) 18:33:58.65 ID:sWvaEwOt - ターミネータ２の液体金属は動きがのろい。
人間の目ではとても負えない挙動のことを意味する。
しかも、地球上で動いでも空気の摩擦力で燃損しない巨大構造物。
|
- 技術的特異点/シンギュラリティ190【技術・AI】
252 ：オーバーテクナナシー[sage]：2020/07/25(土) 18:51:12.53 ID:sWvaEwOt - >>249
それを技術的に人工物に付与するときは、
名前ほしいだろ。
しかも、一瞬で伝わり動作する。分子レベルで完璧に挙動する。
たとえば、『以後、水になれ』と命令すればその集団は水になって機能的に死ぬ（解体する）んだ。
それを飲んでも普通の水で無害。
|
- 技術的特異点/シンギュラリティ190【技術・AI】
255 ：オーバーテクナナシー[sage]：2020/07/25(土) 19:44:43.06 ID:sWvaEwOt - >>254
人間中心の倫理観を実装するには、
まずはそれを定義しないといけないが、
すべての個人に同意がとれるものはなかなか難しいと思う。
そこで、完璧ではないけど、今ないと困るもの。
例えば、世論や社会情勢に合わせて常に改善しながら運用している法律や
判例に忠実に服従、
または緊急の場合は準拠して保留状態を維持し、
細部は専門の組織に報告するようにプログラムすればいいかもしれない。
それにはやっぱり自然言語を理解できるAIがないと無理だろう。
|
- 技術的特異点/シンギュラリティ190【技術・AI】
256 ：オーバーテクナナシー[sage]：2020/07/25(土) 19:54:39.06 ID:sWvaEwOt - 倫理問題で人間に適用する最先端バイオテクノロジーの発展は停滞しつつある。
（例：デザイナーベイビー、CRISPER−CAS9など）
そのほかにも、個人情報や独占禁止法関連のテックジャイアントの野心的な革新技術の足止めがある
ITテクノロジーもそうだし。
そういう倫理問題や法整備は、そこまで政府には差し迫って注目されていないしな。
そういえば未来技術発展のための倫理問題の議論スレってあったっけな？
|
- 技術的特異点/シンギュラリティ190【技術・AI】
258 ：オーバーテクナナシー[sage]：2020/07/25(土) 20:06:50.43 ID:sWvaEwOt - 255の続き
ただし、ニック・ボムストロムの『スーパーインテリジェンス』では
ASIをたかだか人間の定義した人間の認める未完成な法律では
縛ることはできないと指摘している。
人間中心の良心や徳の要素をプログラムできたとしても、
良心や徳の行き着く先は人間を滅ぼすシナリオになりえるかもしれないし、
人間の『文系』での定義では無理といった方がいい。
わざと、自己改善できない。受動的で金魚のふんみたいな性格の人間レベルのAGIに
人間の法律や道徳観を叩き込んだ方がましだ。
|
- 技術的特異点/シンギュラリティ190【技術・AI】
259 ：オーバーテクナナシー[sage]：2020/07/25(土) 20:14:07.64 ID:sWvaEwOt - >>257
もしも、ASIでなく。成長できないAGIなら、
それを利用する組織や個人が属する国から出ないこと、
または干渉しないことを大前提として、
また、その国の法律、道徳観の規範を第一として、
その他、特に致命的な行動のもとになりえない要素は主の考え方や言うと通り
でいいのではないかな？
|