人間の脳が進歩が止まったコンピュータを救う!

一昔前だと、1年経てばパソコンの性能は倍になって価格は半分なんていう時代もありましたが、そういう時代は完全に終わって、今は性能はそのまま価格は上昇が当たり前の時代になっています。それはそれでパソコンをいつ買ってもいいので、買い時に悩むことがなくなっていいのかもしれません。CPUやメモリー周りの進化が止まっても、SSDが主流になりつつあるので、重い処理さえしなければ快適なパソコン生活をエンジョイできます。

今後はメモリ16Gバイト、SSD1Tバイト、有機ELディスプレイが主流になってくれるように祈るしかありません。パソコンでメモリー4G、SSD128Gとか有り得ませんし、最低でもメインメモリー8G、SSD500Gがデフォになってもらいたいものです。

コンピュータの進化が止まった

Turning to the brain to reboot computing

Computation is stuck in a rut. The integrated circuits that powered the past 50 years of technological revolution are reaching their physical limits.

「コンピューター計算はマンネリ化しています。過去50年間の技術革命の動力源だった集積回路は物理的制限に達しています。」

CPU性能が大して上がらないので(価格だけはしっかり上昇していますが)、計算速度はマンネリ化しています。それをGPUやSSDの性能向上で速度カバーしていますが、CPUやメモリーがボトルネックになってしまっています。

This predicament has computer scientists scrambling for new ideas: new devices built using novel physics, new ways of organizing units within computers and even algorithms that use new or existing systems more efficiently. To help coordinate new ideas, Sandia National Laboratories has assisted organizing the Institute of Electrical and Electronics Engineers (IEEE) International Conference on Rebooting Computing held Oct. 17-19.

「この苦境はコンピューター科学者を新しいアイデアに駆り立てています。それは、新奇な物理学を用いた新しいデバイス、コンピュータ内部の部品組み立ての新しい方法、新しいか既存のシステムをもっと効率よく使うアルゴリズムさえ存在します。新しい考えを統合するのに一役買うために、サンディア国立研究所は、電気電子技術者協会の10月17~19日に開かれるコンピューティングをリブートする国際会議の準備を手伝っています。」

ニューラルコンピューティング

Researchers from Sandia’s Data-driven and Neural Computing Dept. will present three papers at the conference, highlighting the breadth of potential non-traditional neural computing applications.

「サンディアのデータ駆動とニューラルコンピューティング部門の研究者達は、上述の国際会議で、将来有望な非伝統的なニューラル計算アプリの幅を強調している、3つの研究論文をプレゼン予定です。」

“We’re taking a stab at the scope of what neural algorithms can do. We’re not trying to be exhaustive, but rather we’re trying to highlight the kind of application over which algorithms may be impactful,

「我々はニューラルアルゴリズムができることの範囲に挑戦しています。我々は網羅的になろうとはしていません、むしろアルゴリズムのインパクトが強くなる可能性があるアプリを目立たせようとしています。」

“Historically, neural computing has been seen as approximate and fuzzy, he added; however, Sandia researchers in their papers aim to extend neural algorithms so they incorporate rigor and predictability, which shows they may have a role in high performance scientific computing.

「歴史的に、ニューラル計算は、概算的で曖昧と見られてきていますが、論文でサンディアの研究者は、厳密性と予測可能性を融合するためにニューラルアルゴリズムを拡張することを目標にし、それらが高性能科学計算に寄与する可能性があることを示唆しています。」

継続的学習の問題と利点

The brain is continually learning. “While we do learn in school, our learning doesn’t stop when school ends. Instead, our brains are continually adapting through processes, such as synaptic modifications. However, most machine-learning algorithms learn once and are done,”

「脳は断続的に学んでいます。”我々が学校で学んでいる間、学習は学校が終わっても終わりません。代わりに、脳は、シナプス調節などのプロセスを通して絶えず馴染ませています。しかし、殆どの機械学習アルゴリズムは一回学んで終わりです。”」

脳は寝ている間も学習しているらしいので、REM睡眠中に脳が活発らしいし、ボーとしている時でさえ何かしらのプロセスをしているそうです。なのでdeep sleepで脳を休ませる必要があるらしく、睡眠は量ではなく質と言われている所以にもなっています。

コンピュータの場合は、一日中一年中不眠不休で学習させることが可能なので、人間よりはるかに高いポテンシャルを秘めています。要は、アルゴリズムさえちゃんとしていれば、いくらでも大化けするし、確変する可能性が高くなるということです。アルゴを組むのが人間である以上、やはり限界があるのは確かです。コンピュータが自分の深層学習、強化学習用のアルゴを自分で組めるようになれば、その時が本当の人工知能革命の始まりと言えるのかもしれません。そういう時代が早く来てもらいたいものです。

Most so-called machine-learning algorithms have a learning phase and a separate testing and operation phase. This is really time consuming. Ambitious—and challenging—attempts to develop algorithms that learn continuously also run the risk of the algorithm “learning” something that’s wrong,

「ほとんどの機械学習と言われているアルゴリズムは、学習フェーズと個々の試験フェーズ、運用フェーズを持っています。これは本当に時間の無駄です。継続的に学習するアルゴリズムを開発する野心的で挑戦的な試みもまた、間違った何かを学習しまうアルゴリズムであるかもしれないリスクを負っています。」

His paper argues for continual learning and suggests the use of game theory—the mathematics of logical decisions, such as when to take out the trash and when to hope your roommate will do it for you—to bring precision to the decision of when an algorithm should learn.

「彼の論文は継続学習に賛成していて、アルゴリズムがいつ学習すべきかの判断に正確さをもたらすために、ゴミ出しタイミングやルームメイトにゴミ出しを期待するタイミング等、論理判断の数学であるゲーム理論の活用を提案しています。」

学習したことを一々テストして運用するのは確かに時間の浪費です。学習し続ければ2フェーズ短縮できますが、間違ったことを覚え続けるリスクがあります。一長一短なのですが、人間でも間違った事を相当覚えています。正しいと思い込んで、他人から指摘されても間違いを認めない人が多いです。もちろん、どっちが正しいのかは分からないので、実際には辞書で調べるしかありません。何が正しいかは判断が難しく、例えば英文和訳なんかも、人によってはもはや原形を留めていない、メチャクチャな意訳もありますが、それが必ずしも間違いというわけでもなく、何故なら逐次的な訳などそもそも無意味だからで、つまり、英語のニュアンスを日本語に変換する過程には文化の違い、考え方の違い、言葉は常に変わる、そういったことを加味しなければならないので、辞書的な訳が必ずしも正しいとは限らないのです。もちろん、逐次的な訳を心掛けないと英語の勉強にはならないのですが、分かり難い構文や難解な語は意訳で誤魔化すのが常套手段でもあります。脳型コンピュータもそういった手抜きを覚えるようになるかもしれません。

動的システムとは

A dynamical system is an equation that describes how things change with time. A simple dynamical system is a function that describes the movement of a grandfather clock’s pendulum. “The idea behind using dynamical systems for computation is to build a machine such that its dynamics—which has to do with the structure of the machine or the structure of the math—will lead it to the answer based on feeding it the question,”

「動的システムは、時間と共にどのように変化するかを説明する方程式です。単純な動的システムは大時計の振り子の運動を説明する関数です。”演算処理に動的システムを使う背景にある考えは、機械の構造か数学の構造と関連している動力学が、質問を与えれば答えるようになるようなマシーンを構築することです。”」

動的システムとは、現在の出力が現在および過去の入力にも依存するシステムのことで、逆に静的システムとは、現在の出力が現在の入力によって決まるシステムのことみたいです(動的システムと静的システム)。

Both our brains and, in a way, conventional computers are dynamical systems: They find answers just based on the question and how the computers are constructed, said Rothganger. His paper proposes that if researchers think of a traditional problem, matrix decomposition, as a dynamical system, they could solve them rigorously on neuro-inspired systems.

「我々の脳と、ある点では、従来型コンピューター双方が力学系です。それらは、質問とコンピュータがどう構築されているかに基づいた答えを見つけ出します。彼の論文は、研究者が伝統的な科学計算問題、行列分解を力学系と見なすなら、彼等はそれらをニューロシステム上で正確に解くことができることを提議しています。」

“There’s a lot of potential and also a lot of risk in the idea I’m working on,” said Rothganger. If his idea works, “it would provide a point of unification between neural algorithms and traditional numerical algorithms.”

「多くの可能性とまた多くのリスクが私が研究しているアイデアの中に存在しています。もし彼のアイデアが機能すれば、”神経アルゴリズムと従来の数値アルゴリズムの間の結合ポイントを提供するはずです。”」

神経アルゴと数値アルゴの融合は必須です。人間の脳は論理思考は得意でも複雑な計算が苦手なので、論理思考は脳型コンピュータにやらせて、複雑な数式処理は従来型コンピューターにやらせるようなシステムを構築する必要があります。人間の脳は恐らく0.1FLOPS程度の処理性能しかないでしょう。ファミコン以下です。適材適所で使い分けることで、人間を遥かに凌駕する人工知能マシーンが登場するはずです。

スパイキングネットワーク

The third paper identifies three hand-crafted algorithms that use the careful arrangement of spiking neuron-like nodes to perform precise computations. In the brain, each neuron is connected to many other neurons and uses spikes of electricity to communicate. Severa, a mathematician, and his co-authors took inspiration from these aspects of the brain.

「3番目の論文は、正確な演算処理を実行するためのスパイキングニューロン様ノードの入念な配列を用いた3つの手製アルゴリズムを識別しています。脳内では、各々のニューロンは他の多くのニューロンとつながっていて、交信するために電気スパイクを使っています。Severaと彼の同僚達はこれらの脳の側面に感化を受けました。」

ニューラルネットワーク、神経回路網、神経細胞回路網、脳型ネットワーク等さまざまな呼称がありますが、スパイキングニューラルネットワーク、スパイキング神経回路は、ニューロンのスパイク(活動電位)を再現した神経回路網のようです。

An example of these innovative algorithms is a kind of flow estimation called particle image velocimetry. By taking two pictures of dust motes moving through the air and figuring out how far they moved in the time between photos, researchers can determine the speed of the air and any local eddies. This can be done on a conventional computer using fancy math, but Severa’s method uses the massively parallel nature of neurons to calculate all the possible shifts efficiently, he said.

「これらの革新的なアルゴリズムの一つの例は、粒子画像速度測定法と呼ばれるフロー推定の一種です。空中を漂う塵の二枚の写真を撮り、写真の間に動いた距離を見つけ出すことで、研究者は、空気流速とどんな局所渦も測定することができます。これは、高度な数学を使うことで従来のコンピュータでも実行可能ですが、Severaの方法は、効率良くあらゆる変化を計算するためにニューロンの超並列性を利用しています。」

fancy math = 小難しい数学、難解な数学

“By carefully designing your networks and the properties of your neurons, you can do exact things,” said Severa. “You can push the envelope of what you can expect a neural network to do.”

「”あなたのネットワークとニューロンの性質を注意深くデザインすれば、全く同じことをすることができます。”とSeveraは語った”あなたが神経回路網がやってくれると期待していることの限界に挑むことができるのです。”」

熟練数学者が手製のスパイキング神経回路網アルゴリズム、あるいは、ニューラルネットワークアルゴリズムを構築したみたいですが、こういう天才プログラマーは明らかに脳のできが違います。同じ人間だとはとても思えません。

発想の大転換

Whether the future holds neuro-inspired computers in your cellphone that understand phrases like “Show me a cute picture of Fluffy” and “Order my favorite Chinese food,” or if neural computers can also work alongside future quantum computers in solving tough math problems quickly, computing needs to be reinvented, and soon, said Aimone. By bringing together experts in many different disciplines, he said the International Conference on Rebooting Computing aims to nurture new ideas and spur this revolution.

「”Fluffyのかわいい写真を見せて”や”私のお気にの中華料理頼んで”のようなフレーズを理解するニューロコンピュータがあなたのスマホの中に将来待ち受けているのか、あるいは、ニューラルコンピュータが未来の量子コンピュータと一緒に機能するようになるかどうかにかかわらず、コンピューティングは改革が必要で、しかもすぐにです。多様な専門分野のエキスパート達を呼び集める事で、リブートコンピューティングに関する国際会議は、新しい発想を育むことこの革命に弾みをつけることを目標にしています。」

パソコンがなくなることはないでしょうが、多くのパソコンメーカーが消滅する可能性はかなり高いのではないでしょうか。魅力が無いから売れないということをメーカーは理解する必要があるでしょう。売れない売れないと騒いで、スマホが普及したからだと、スマホのせいにしていますが、スマホとは比較にならない魅力的な製品を作れば馬鹿売れします。要は、旧態然の思考のまま、試行錯誤を繰り返しているだけで、発想の大転換が必要なことに全く気付いていないのです。例えば映画の興行収益が落ち込んだのは、ただ単につまらない映画を量産するからであって、それ以外の理由は存在しません。良質なコンテンツなら、新ゴジラ、名探偵コナン、君の名は。のように記録的な大ヒットを記録できます。それは過去のアタリショックに通ずるものがあります。クソゲー量産で、コンシューマーゲーム機市場は壊滅的打撃を受け、消滅の危機に瀕していました。

消費者に受ける商品が作れない、その売れない理由を他に転嫁してばかりいるからどんどんジリ貧になっているだけで、才能の枯渇、才能のある人間を雇わない、古い考えの人間が指揮を執っている等、色々な理由が考えられますが、結局は人材不足ということなのかもしれません。良い人材がいても才能を埋もれさせてしまっていたり、悪貨は良貨を駆逐するで、ブラックな人材が、良質なダイヤの原石を台無しにしてしまっている可能性さえあります。企業は人で人柄重視の原点に立つことが、今求められています。