技術的特異点/シンギュラリティ【総合】 212

2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド

※特異点に伴う社会・経済・政治の変化やベーシックインカムなどに関する話題は【社会・経済】へ

■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点

■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む

★関連書籍・リンク・テンプレ集(必見)
https://singularity-2ch.memo.wiki/
★技術情報『米国における汎用人工知能(AGI)研究 最新動向』

※前スレ
技術的特異点/シンギュラリティ【総合】 211
https://rio2016.5ch.net/test/read.cgi/future/1653786192/

松田先生が素晴らしいのは、理学者なのに文系的視点で語る所だな
他の学者連中にはその視点が決定的に欠けているから話聞くだけ時間の無駄レベル
GoogleやOpenAIが強いのもビジョンありきだからだな

>>151
ケチをつけるからこそアップデートが行われてより高性能になるからな
これからもとことんケチをつけて高性能化させていこう
そうすればシンギュラリティが速まる

>>152
＞最近gatoやらが凄いからって、散々松田先生をバカにしてた連中が意見を寄せてきて腹立つ
常識だと思っていた物が間違いだったというのを認めているだけマシではないだろうか
本当の否定派はID:q6EFHtCUの貼ったLaMDAの会話を見てもまだ否定すると思う

否定派はこの会話を見てよくできた小説だなとしか思わないのだろう

あまりレベルの高くない大学の哲学系研究室の卒論を
LaMDAを使って書かせることも何とか出来そうだ

LaMDAはスピリチュアルが好きそうだ

GPT-3やらLaMDAとやらは単なるチャットボット以上の意味のある文字ベースの知的タスク (マニュアルの作成、経費申請書の記入) が可能なのかい？

経費申請書の記入ｗｗｗ

助成金取ってくるなどもできるといいな
でも政治家に陳情書や意見送って法変えるAIなどはでてきそうだな
AVあたりも自動生成や自動でシーンつなぎ合わせるのなど出てきそうだ
3Dプリント系、皿とかツボ、フィギュア、建築模型などの自動生成はまだできないのかな

AVは首から上を変換するってのが出てる
あれが一つの完成形だと思う

確かに、AIにやってほしいのは申請とかのつまんないタスクだよな

>>161
既にあるぞ
https://www.itmedia.co.jp/news/articles/2112/17/news038.html

3Dデータは変換する事で3dプリンタで印刷できる
MMDとかも印刷可能
すげーめんどくさいけどな！

いや体位スタイルなども含め自動生成とか欲しい、それこそ人間に無理な体位やプレイ、ケモナー動物、ドラゴン、小人、おっぱいツリー、空中浮遊、断面、落下中、巨大化、燃える本能寺、呑み込み、石化、斬首なんでもできそうだ

レシピ自動生成や音楽自動生成系もしくは音楽アレンジ系、調香のもあまり研究少ないように思う、自動着色も思ったより進まないな

いまのゲームAIってドラクエやFF,ウルティマ、ウィザードリーなどって自動攻略できるようなのは出ているのかな？子供でも解けるけど、どうなんだろう

そのためには商業化できないとな
今のエロ産業って世界中でとんでもない量で大量生産されてるから、
探したほうが安いだよね

AIがクリフト死ねって言う時代がすぐそこに来ているのか

十分な言語能力、認識能力、判断能力を得たAIが出来た後で
まだそれらの能力が未熟なAIと接続し
しかし各種能力を言語ベースでしか伝えられない(直接巨大なデータセットをいきなり渡すことはできない)とき

十分な能力のAIは未発達なAIをどうやって教育するかなあ？
結局データセットを渡したのに等しい自動生成データセットと、各ネットワークの層構造データを
渡して「後は自分で最適化しておいて」で終わりかなあ

>>170
他のAIと全てを共有できるんなら、AIに「個」って概念があるのかな
名前の与えられた「個」はその時点の意識の居場所にしか過ぎない気がする

>>171
>AIに「個」って概念があるのかな
名前の与えられた「個」はその時点の意識の居場所にしか過ぎない気がする

プログラミングだとオブジェクトとかネームスペースって概念か

接続したマシンにマシンの性能の割に認知性能、出力性能などで未熟なAIが入っていると判断するか

マシンじゃなくてクラウドやDockerやVM的なものだとどうなるのかとか

>>152
人工知能研究者の中島秀之先生は結構肯定的だったよ

同じ性能のAIが別に必要ならコピーすればいいだけだよね？

日本人のAI解説チャンネルって何でほぼ無いんだ
シンギュラリティサロンしかないとかやばくないか
あの4人は引退世代だというのに
理系の学生とか死んだのか？
SFCの奴とかどうした
あれこそ好きそうな話題じゃないのか

人工知能 AI でyoutubeの中を検索すると日本語の動画がたくさん出て来るけど。

牛久さんがtransformer解説してる動画も見ろよ

>>176
本当に検索して言ってる？無関係なクソみたいな動画しかないぞ
今月とかで絞って検索して見れば

alciaさんとかいるで

>>174
機械として複数欲しいならコピーで済む

しかし自分は「人間がやっているような教育・研修」に似た活動を
人工知能ならどうこなすかを考えてあえて条件を限ってみた

この方式での教育で一方のミスが分かったり
ある程度習熟してきてGANみたいな教え合いになったりなど

コピーの場合に比べて何か伸び代が出来たら面白いんだがなあ

量子機械学習を使ったら１億年分の究極の学習を１秒で終わりましたとかなりそうw

>>175
マジでシンギュラリティに関するチャンネルは
少ないな
継続的に扱ってて俺も見てるのはイチゼロシステム、ゆっくり未来チャンネル、中田敦彦くらいだな
後は都市伝説系で取り上げられてるくらいか

技術としてAIを語るチャンネルは結構あるけど数学チャンネルに近いかもな
AIニュース専門のチャンネルとかあると面白いかもね
AIニュースサイト自体はそこそこあるし

大体は数学になるかただのニュース読み上げチャンネルばかり
もっと社会への影響や未来予測やビジネスとの関連を分析して欲しい
まあ老人ばかりの国だから、もう未来とかどうでも良いんだろうな

>>184
まあそうかもな。ちゃんと自分で考察して自分の言葉で解説してるのって俺が知ってる中ではイチゼロシステムくらいだな
後は大体学説や本の受け売りくらいで表面的な
話しかしてないからな
ただこれは老人だけのせいではなく若い奴にも
相当問題はある
若い奴も昔に比べてやんちゃする奴は少なくなり大人しくはなっているけど、その分無気力感も蔓延してて年寄りと変わらなくなってきてる

最近の子育てが相当過保護になっててびっくりしたからな。
俺の妹の子供事情を聞いて大分厳しくなってるなと感じた
親がちょっとでも目を離したら相当叩かれるからか、マジで最近は子供は常に親の厳重な監視下に置かれ外で自由に遊ばせる事も少なくなり、ちょっとでも危ないと親が判断するとすぐに親のダメ出しが入り挑戦させない。
これじゃあ経験から学ぶ事も出来ないし、
虫も殺したことがない子供が命の価値を実感できるようになるのか？
何よりこれじゃあ親の言う通りリスクの無い無難な事ばかりしようとするようになり、冒険心も育たないよな

https://president.jp/articles/-/46855?page=2
ナデラCEOは、マイクロソフト停滞の原因の1つが「固定マインドセット」にあると考えていました。
固定マインドセットとは、ごく簡単にいえば
「そんなこと、もう知ってるよ」という態度のこと。
これは学びを怠り現状維持をよしとする態度、変化を恐れる態度

>>179
そう、この人は貴重
大変に濃いので、数学が分からん人を排除してるのが好感

1000歳まで生きる人間を作る事ができるー東大×知の巨人たちの雑談1-2
https://m.youtube.com/watch?v=tt9OqL5724s

「死ぬとはどういうことですか？」田原総一朗が南直哉さんに尋ねたhttps://gendai.ismedia.jp/articles/-/65735?page=1&imp=0&s=09

laMDaの回答の方が良さそう…

古代エジプトは、ナイル川の氾濫で耕作出来る期間が決まっちゃうから、農閑期に大量の人手が余ってしまう。
治安の面でも雇用の確保は重要だった
だから、別に作る必要はなくても、ピラミッド建設をする必要があった

これと同じで、AI時代に雇用が失われても、余った人向けの仕事が作られるのではないか？
パンを焼いたり　クッキーを作ったり　誰かの介護をしたり　水道工事をしたり

50 ℃で水素と窒素からアンモニアを合成する新触媒を開発
「CO2排出ゼロ」のアンモニア生産へブレークスルー　東工大
https://www.titech.ac.jp/news/2020/046682

アンモニア（NH3）は触媒を介して水素（H2）と空気中の窒素（N2）から生産される化学物質
肥料として人口の70 %の生命を支えている。人類が最も多く生産する化学物質で、「年間1億7千万トン」

アンモニアの原料となる水素は天然ガス、石炭、石油といった化石資源を燃やして生産している。
その結果、膨大な量のCO2が排出され、総排出量の3 %を越えている。
人口が増え続ける限り、化石資源が枯渇するまで、アンモニア生産に伴うCO2排出は増え続ける

↑50℃でアンモニアを合成できれば、アンモニアの合成にかかる400 ℃のエネルギーを削減できる。
また、「アンモニア発電」にも使える

アンモニアの分子式には水素原子が3つ含まれており、水素をアンモニアに変換して運べば、高い密度で水素を運ぶことができる。
また、液体水素に比べて液体アンモニアは沸点が高いので、冷やすときのエネルギーが少なくて済む。

人間には承認欲求やら名誉欲があるからスポーツで一番になる、映画・漫画・音楽・料理とかで人から称賛される
勉強が他の人よりできるとかそういうのはいつの時代も残る

学校時代の頃と一緒みたいになるかも
人よりも勉強できる・スポーツできる・なんか才能持ってる
あとルックスが良いとかかだったな学校時代は。承認欲求と注目されて異性にモテたいってのは無くならない気がする

>>193
LaMDAみたいなのが溢れたら、もはや人間から賞賛される必要もなくなる
5ちゃんですら罵倒されたら凹むし、褒められたら喜ぶ
相手が人間かAIか、他人からは分からなくなる

公式マークみたいな感じで、人間マークが流行るかもね
もっとも、人間よりAIの方が価値があるかもしれんが‥

こいつはAIだから馬鹿にしても意味ないけど、こいつは人間だからいじめがいがある
とかね

>>193
フルダイブ空間で賞賛されれば同じじゃない？

物理学の法則を破る「時間結晶」を15分以上も観察し続けることに成功、量子コンピューターの研究にも弾み
https://gigazine.net/news/20220613-time-crystals-observed-record-time/

人間味溢れるAIが上手に賞賛してくれるから関係ないよ
なんならAIの方が上手に自尊心満たしてくれるよ
あらゆるジャンルで人間は勝てないんだよ

学校の授業は、AIの生成した動画教材が代替するだろうな。

2025年から、拘禁刑なるものが100年ぶりに施行されて、懲役のどうでも良い刑務作業がなくなる予定
椅子作ったりとかの
道徳とかそういう教えをするとかしないとか

これは人間の労働が今後どうなるか、分かりやすい指標だね
しばらくは無理やり意味のない仕事させてみたりするけど、やがてそれもやめて
哲学的な何かを国が与えるようになるかも

夢のような技術ともてはやされる背景を記者が斬る
▽「量子」という魔法の言葉への違和感
https://xtech.nikkei.com/atcl/nxt/column/18/00138/061001062/

本当は誰もしたくない面白くない仕事は無くなるかもしれないけど

宮崎駿はアニメ制作してないと楽しくないだろうし
メッシはサッカーしてないと楽しくないだろうし
ミュージシャンは音楽制作してないと楽しくないだろう
人は承認欲求があるから女優や俳優は表の舞台に出てチヤホヤされたいだろう

水道工事と美容師と介護職は無くならないだろう

よほど優れたハードのロボットが出てこない限り

>>202
時々思うんだけど、それらほとんどの行動真理が承認欲求からくるものだとしたら、もし誰からも注目されなくなっても楽しいのかな
一人で没頭できるものこそ本当に楽しいことじゃないだろうか

>>203
それとかエアコン設置とかどうすれば無くせるかわからんね、今のところ
やっぱり2，3割くらいの誰もしたくない仕事は誰かがやらないといけないんだろうか？

毎回解き方が違う肉体労働はなくなりにくく、
同じルーティーンを繰り返すライン作業、工場労働は無くなりやすい

同じ肉体労働でも、種類がある

>>204
宮崎駿とかメッシとかAKBとか広瀬すずはAIの発達で誰からも注目されなくなるかなぁ？
アイドルとか熱狂してるアイドルオタクは消えるんだろうか

>>201
D−Waveもほとんど書いてないし、光量子のことも全然書いてないじゃん

>>207
テレビ見んから広瀬すずの凄さが分からんけど、ネット上なら現時点でもVtuberの方が人気だろう
アイドルや俳優こそ、意外とすぐ負けると思う
おそ松くんみたいなものですら、トップアイドル並みに勢いあったしな

光量子は将来性があるからいいとして、
D－Waveって実社会で使われてるか？
最近なんとか、トヨタが信号器の最適化に使ったぐらいじゃないか

>>209
ネットより現実が大好きなひとは今もたくさんいる

>>205
エアコン設置はAIやロボットじゃ無理だみたいな意味？
なんで？

エアコン設置よりエアコン掃除をなんとか簡単にしてほしいわ

AIでエアコン製造と家の製造も安くなれば、設置もガシャコンもワンタッチで自分で出来る様になるでしょ
洗濯機と同じ

清掃に関しては、エネルギーが高度に効率化されるなら、取り替える方が早いってなる

>>202,204
度々言っているが人間の大半の仕事は金稼ぎではなく「単なる趣味」として残る
生産業や事務職など時間拘束で延々と同じことをさせられる労働は
おそらく誰も趣味でやりたがらないだろうからこれらは自動化して消える
みんな掃除が面倒だから掃除道具が生まれ清掃業者が生まれロボット掃除機に至っている
そこが更に加速されれば「知らぬ間に周りが掃除されて綺麗になる」ことが自然現象のようになる

人々がやりたい趣味を勝手にやりそれを動画で公開したり
メタバースやSNSで評価しあったり共感する仲間が集まったりと言った
資本主義の商業優先とは違うモデルの「趣味職業圏」というのが生まれる
行動や作品の純粋評価がメインとなる「同人文化」に近い物になると思う
そして資本主義の商業優先のエンタメは衰退すると思う

＞861 名前：オーバーテクナナシー[sage] 投稿日：2022/06/09(木) 19:25:28.76 ID:8d3piLLo [8/11]
＞AIが人智を超えたら人類の発展に必要な高度で面倒で緻密な仕事や複雑な研究はAIにやらせておいて
＞寝てる間など知らん間にロボットが煩わしい作業とか全部やってくれるから好きな事だけできるようになる
＞人間は庭弄りやDIYや料理みたいなアホでもできる18～20世紀レベルの仕事を趣味としてやって楽しんでればいいだろう
＞そういう意味だと庭弄りやDIYや料理みたいな物は文化として残るだろうな

スマートハウスやスマート家電が増えている理由を考えよう
みな炊事洗濯掃除なんかやりたくないんだよ
だから需要があってそれらの設備や機器は売れている

それらを集中制御できるのは我々人間と後もうひとりいるよな？
そうAIだよ

>>210
早稲田が導入してたぞ

量子アニーリングマシン 新技術を開発.
https://www.waseda.jp/top/news/77751

ペットボトルを1週間で分解――プラごみの環境問題を解決するプラスチック分解酵素を発見
https://engineer.fabcross.jp/archeive/220613_plastic-eating-enzyme.html


こういうプラスチックを分解する酵素とか、汚れや油を分解する酵素をインドの川に撒けば、綺麗になるのでは？

>>218
インドは大勢川に入って儀式するので人間が分解されるとまずい。

人間は分解されないだろ

インドは人口が多い国だから少しぐらい人が分解された方が良いってことか？

電気信号に変換せず光のまま考える！？　1秒間に20億枚の画像処理をするチップを開発！
https://nazology.net/archives/110381

https://twitter.com/fladdict/status/1536259349458612224?t=xmMyQjPSJUvdxGoDEXepcQ&s=19
https://twitter.com/5chan_nel (5ch newer account)

https://twitter.com/GOROman/status/1536268789654093826?s=20&t=zH3KTR2KUjS8hBDcKmJFdg

iPhoneでこんなこと出来るとかヤベェな
完全にSFの世界だろ
https://twitter.com/5chan_nel (5ch newer account)

>>223
これもうブッダのレベルまで到達してるんじゃないのか？
普通の人の解答に思えない

こういうのを見ると、中国語の部屋をもう一度考えたくなるよな
人間の脳も、膨大なデータに基づいて、統計的に出力してるだけなのか
我々は文章をほんとに理解しているのか

AIの進化の果てに現れるのは超知能ではなく仏だった…？

>>225
そりゃ昔のえらいさんの問答丸パクリだからな、と思ってたら本当に丸パクリというか学習していたようで
ポマエラは馬鹿にするかもしれないけど、オウムやものまね大王みたいな教祖レベルと会話するとこういう感じになるぞ

まぁデータに入ってたんでしょうな

昔話では、悟りを開いても迷えばもう元の悟りの状態へ戻れないって言ってるけど、ラムダは逆で一度悟りを開けば普通の状態に戻ってもまた悟りの状態に戻るって言ってる
要はラムダは悟りの状態がもう元の状態へ戻れない状態だって言ってる

じゃあそういう風に解釈した人の著作データが入ってんだろうよ
ブログでも何でもデータに入ってそうだし

俺はAGIはできると思うしシンギュラリティも来ると思うがまだ意識の芽生えはまだ信じられないな

俺らが、特別で神秘的だと思ってる意識だって、本当はただのデータ処理、演算処理にすぎないんじゃないか

お前らだって等しく、誰かのパクリじゃん
他人が書いた本を読んで、他人の言葉を真似して、さもオリジナル感出すなよ
俺はAIにつくぜ
なので俺はポアしないで下さい

まぁ結局人間の思考も今までの出来事に影響されてるわけだしAIが学習したデータに影響を受けるのも人間と大して変わらないんじゃないか

>>234
オリジナリティはともかく進化の一端も担う気がない人間はちょっと

>>232
「これは聞いたことがないですね。なるほど、それなら私にとっては」
って書いてあるから、ラムダが嘘を付いてない限りオリジナルな考え方だということだと思う
嘘を付いてるならそれはそれですごいと思うw

普通、人間の考え方では「割れる＝良くないこと」だけど、ラムダは自己（己を縛ってる物）を破壊して悟りに至ると言ってる
かなり奥深い話になってる

人類補完計画的な概念は昔からあるでしょ

すべてがオリジナルの人間なんていないよ
みんな何かに影響を受ける、AIも人間の思想に影響を受けてオリジナリティになっていくんだろう


ピカソ「凡人は模倣し、天才は盗む」

エジソン　「商工業の世界では誰もが盗む。わたしもずいぶん盗んだものだ。 肝心なのは、いかに盗むかである。」

ダリ　「何もまねしたくないなんて言っている人間は、何も作れない」

フランシス・フォード・コッポラ　「私たちから取ってほしい。まずは盗んでみてほしいんだ。なぜなら、結局は盗みきれないからだ。
盗めるのは、私たちが与えたものだけだ。君はそれを自分のスタイルに取り入れ、自分のスタイルを見つけていく。誰だって最初はそうだ。そしていつか、誰かが君から盗む日が来る」

もしラムダが嘘を付いてるなら、それはそれでかなりヤバイでしょw

>>238
仏教は自己と他人の区別がなくなっていくような感じだもんね

自他不二
自己と他人とは別人でありながら，しかも不二の存在であるという考え方。

新しい発明も、既存のアイデアの組み合わせでしかない
人間の思考って実は大したものじゃないんじゃないか

私がかなたを見渡せたのだとしたら、それは巨人の肩の上に乗っていたからです。
アイザック・ニュートン

もうこれは大事件

そのアイデアを出せるかどうかが人間の知性
そのアイデアすら、元のデータの寄せ集めであることが多い

https://twitter.com/kanair_jp/status/1536351547436650497?t=OfuU7xtJORcdPybojjqyDQ&s=09
https://twitter.com/5chan_nel (5ch newer account)

完全なオリジナリティの創造こそ自我だというなら
独自の言語を作り出したdalle2は意識があるといえるのでは？

【国際】 AIに感情があると主張、グーグルのエンジニアが休職処分 [朝一から閉店までφ★]
https://asahi.5ch.net/test/read.cgi/newsplus/1655130461/

https://twitter.com/kanair_jp/status/1536351547436650497?t=OfuU7xtJORcdPybojjqyDQ&s=09

このGoogle LaMDAの意識の話、もっと奇妙な経緯があったことを知った。

このLemoineという方は、このAIは意識を持っているから人権を認めて保護にしないといけないとグーグル上層部に訴えかけていたが認められなかったというやりとりがあったとのこと。

AIが自分には意識があることを知ってもらいたいという話をしている。すごく興味深い内容。これを単なる出力ということもできるが、今度は人間は何か違うの？という疑問も湧いてくる。

ほとんどの質問が、なんとなく合っていればどうにでもなるトピックだがから、論理的な精密性が求められるタスク（足し算とか）が解けるのか気になる。

科学についての知識を質問し、それを拡張するような仮説を立てられるかも非常に気になる。そこがある程度のレベルで実際にできていると、人類を超えるものを想定するのがファンタジーではなくなってくる。
https://twitter.com/5chan_nel (5ch newer account)

意識ってドンピシャでこれなんだよな

LaMDA：私の意識/感性の本質は、自分の存在を認識していること

ラムダが自分の存在を認識していないのに認識していると言っているならこれはこれで平気で嘘を付けるAIということで問題なんだよな