www.xn--fhq32lm4eoko24c48b.com
前回の記事↑
続き↓
「思い込みが、動物本能からくる報酬系にダイレクトに結びついているから、恐怖とか感情と、それをだまして、意識をコントロールするのができないというだけで」
「今のAIは、どうして意識をインストールするのか？ だから、それは無意識なんですよ。無意識に人間を認識したりだとか、言葉を認識したりだと、そういうような回路しかつくっていないんですよ。意識はそれをオーバーライドする別々のネットワークなんで、そういう風に設計すべきである」
※オーバーライド→（override）とは、乗り越える、～に優先する、覆す、圧倒する、などの意味を持つ英単語。ITの分野では、ある場所で定義された設定や手続き、属性などを、別の定義で上書きすることを指すことが多い。
「どうやってオーバーライドするのか？ それは、やっていくアーキテクチャーは、１個しかないと思っていて、複数のニューラルネットワークが結合したのが人間の脳じゃないですか？ 視覚・聴覚とかいろいろなものがマルチモードにくっついている。それをまとめて処理して記憶しているのが海馬ですよね。それで、最終の出力層というのがあるわけじゃないですか。そこの部分って、バスにのっているんですよね」
※ニューラルネットワーク→ニューラルネットワークとは、人間の脳神経系のニューロンを数理モデル化したものの組み合わせのことです。ニューラルネットワークは、人間の脳のしくみ（ニューロン(*1)間のあらゆる相互接続）から着想を得たもので、脳機能の特性のいくつかをコンピュータ上で表現するために作られた数学モデルです。
※バス→バス（bus）とは、乗合自動車という意味の英単語。コンピュータの分野では、データ伝送路および伝送方式の一種で、複数の装置や機器、回路が一つの信号線を共有し、それらの間で相互にデータをやり取りできる構造のものをバスという。
「コンピュータのバスと違って、人間の生体のバスというのは、１２８ビット、２５６ビットとかどころではなくて、何万ビットもあるんですよ。ただのケーブルだけを集めているのがバス。まずはそのデータまるごとを、解釈して記憶するのを海馬がやっているんだろうし、その記憶そのものを記号にして処理をするアーキテクチャしか僕はあり得ないと思っているんですよ。」
「視覚や聴覚にあたるものは、人間より何倍も優れたものがでているけど、海馬に当たるものはないのか？ それにあたるものが、トランスフォーマーなんですよ。ただ、無意識な奴に合体させちゃったんですよ。トランスフォーマーを、分離して実装するようなアーキテクチャというようなものが、今後出てくるんじゃないかと思っています。」
※トランスフォーマー→機械翻訳モデル。文章内にある全部の単語間の関係を直接的にモデル化するという「attention」というメカニズムを採用。従来より短時間で正確な翻訳が可能となった。画像や動画などにも適用が開始される。
「分離するというのはどうするか？ とても説明は難しいが、トランスフォーマというのは６層になっているじゃないですか？それを僕は１層でいいと思っていて、トランスフォーマというのは、データにアテンションをかけていて、それを記号のように扱うというを内部的にはやっているんだけども、そうじゃなくって、出力データのパッケージを、そのまんま、記号としてアテンションをかけて、海馬のようなところに記憶する。それは、人間の海馬のように、人間の配列の中に、どんどんどんどんストックしていくというぐらいでいいと思うんですけども、それの関連したデータが後から参照してつかえるようなネットワークをつくればいいと思っているんですよね。」
「僕が思っているのは、記号をどうやって実装しているのか？ 最も簡単な実装、さっきもそうなんですけど、プログラムを変更するのは、１行だけがいいじゃないですか？ 人間の記号で、最も簡単な実装は、色々な視神経とか、聴覚とかの神経の信号そのまんま、巨大なビットのデータとして、そのまま記号につかっているというのが、一番あり得るシナリオだと思っていて、人間の記号？ そうですビットマスクです」
※ビットマスク→論理演算の分野で、特定のビットをオンにしたりオフにしたりするために用いられるビットパターン。ある値の特定のビットを１にしたい場合、その位置に設定して、他を０にしたビットマスクを用意し、論理和（OR)演算を行う。
「ビットマスクが実は記号なんですよ。ある概念と、ある概念を合わせた記号をつくろうと思ったら、orする」
「単純な論理演算回路で動かせられる。凄く単純な実装が可能なんですよ」
「これだけ簡単なことなら、偶然生まれることも考えられる。それなのに、こんな思考がなんで古代の文献に出てこないのか？ それは、言葉がないからじゃないか？ でも哲学者は、それなりに似たような結論は出していた。それを説明できるようになったということ。」
「何千年前に仏教の経典にね、石は石でない。石というものは存在しない。手触り、色、形、重さの奥に、石があると思いがちだけど、色、形、質感等、全部合わさったものが石なんだということ。というようなことを、大昔の仏教の人が言っているんですよね。人間というのが、情報を処理する機械だと思ったら、外界の認識は、外部からの情報をインプットするして合成して外界のイメージをつくっているから、それ以外はありえないですよね。論理的にそれ以外、あり得ない。同じような結論に、コンピューターがなかった時代の人達は、達しているんですよ。」
「そう考えると、簡単に意識を実装できそうですよね。以外と簡単なんじゃないの。難しく考え過ぎなんじゃなの？」
