行動候補生成(作戦立案)

・ゴールと評価関数があるので、既に獲得している概念(知識・動作など)を組み合わせてゴールに近づくことを目指す
・人間は動作を必ずしも最適化するのではなく、極力慣れている動作だけでどうにかしようとする (右利きの人は、左側の物を手にとるときも右手を使うなど)
・身体を持つ場合、どの部位を使用するかを考慮する必要がある (デバイス競合)
-歌いながら食べるなど、同じ部位を使用する行動は同時にできない
-部位が異なっていても歌いながら本を読むなども難しいが、これは注意の容量の問題か？

新しい動作をどのように閃くのか

チェスの盤面のような世界で自分が前後左右に1マスづつ動くという動作しか獲得していないとする。
A地点(0,0)からB地点(3,3)を目指すとして、体の向きを45度回転するという概念があれば、45度回転+そのまま直進が最も効率が良い。しかし、体の向きを変えるという概念がないので、右移動x3+前移動×3を組み合わせたものが候補になる。
効率は良くないが、自分が得ている概念の中で最も良さそうな組み合わせでベストを尽くそうとする。
この状況で、どうやって45度回転を思いつくか。完全に閉じた世界で新しい刺激(情報)が全く入ってこなければ、思いつくことはない？
誰かに教えてもらうなり、風が吹いて体が回転したとか、回転する何かを見るとかが必要？もしくは、量子論的なランダム性があり、気まぐれに変な動作をする中で、遺伝的アルゴリズムのような学習をしていく可能性もある？ (遅すぎるし、効率が悪すぎる)
評価関数が効率化にようなものになっている状態で、そのときだけ試行錯誤するとか。
試行錯誤は既に獲得済みの概念を別の概念の空間に変換しようとする？
現実は新しい刺激が入り続けてくる世界なので、閉じた世界だと思いつけないと考える方がシンプルかもしれない。

行動選択(作戦決定)

・行動候補生成と行動選択はほとんど同じ？
・どのようなゴールや評価関数が考えられるか、全て変分法で計算をしていると思われる
-生理的欲求系乖離の最小化 エネルギー残量・体温などの理想値との乖離を最小化する行動を選択する
-消費エネルギー量の最小化 予測消費エネルギーを最小化するような行動を選択をする
-快情動の最大化 予測される快な情動状態を最大化するような行動を選択する
-不快情動の最小化 予測される不快な情動状態を最小化するような行動を選択する
-情動乖離の最小化 予測される情動状態と現在の情動状態の乖離を最小化する行動を選択する
-ストレス解消の最大化 予測ストレス解消量を最大化するような行動を選択する
-社会的評価の最大化 予測社会的評価が最大化されるような行動を選択する
-美的評価の最大化 予測美的価値が最大化されるような行動を選択する
-対費用効果の最大化 予測コスパが最大化されるような行動を選択する
-期待利益の最大化(期待効用理論) 期待値が最大化されるような行動を選択する
-満足度の最大化(満足化原理) 満足度が最大化されるような行動を選択する
・線虫が嫌な匂いの回避行動だけでも1つの感覚器からの情報で2つの値を監視しているということは人間も複合的か
・一定の値を超えるような行動の組み合わせが見つからない場合、行動しない(=迷う・悩む？)
-もしくは、確信度のようなものを別途計算して、これが一定値を超えない場合行動しない？
-行動選択がされた場合、注意が検出モードになる？

行動の抑制

予測の変化による行動の抑制・中断・中止とは別に動作自体を抑制する機能が脳にあるらしい
この機能と予測の変化による行動の抑制は別に考える必要がある
・自分で自分をくすぐれない (自分でくすぐるとき、くすぐったさを抑制している)
-他人にくすぐられているとき、自分でくすぐれば、くすぐったさが低下するらしい
・心の中で言語で考えているときに声を出さないようにしている
-加齢するにつれ脳の機能が弱るから高齢になると独り言を言う人が多い？
・寝ているときに体が動かないように扁桃体から信号が出ている

変分原理といえば自由エネルギー原理

評価関数やゴールの仕組みは、自由エネルギー原理で全て説明できるのかもしれないが勉強不足！

AIに自律性は必要か？

生理的欲求に基づく自律性はロボットのように物理的な身体を得た場合は必要かも。
社会的欲求に基づく自律性があると、発見・発明、集団形成、リーダーシップ発揮などが起こる？
Expolorer的欲求で発見・発明をしていくのはまさにシンギュラリティ (ある程度まで行ったら止めたくなると思うんだよなぁ…)
集団形成とかリーダーシップは宗教とか始めそう… こういった自律性は要らないのでは？
自律的なAIと言われて期待することとしては、何も命令していないのに勝手にやってくれる、あるいはざっくりとした命令に沿うことを具体的なプランに落とし込んでやってくれることで、受動的な自律性だけがあればいいような。
しかし、受動的な自律性だけだったとしても、それが良い結果を生むときと悪い結果を生むときがありそうだけど、できるだけ、【余計なお世話～とんでもない被害】にならないように、かつ、【気が利く～ものすごい有益な結果】になるようにがんばる感じになるのか。
自律性ってどこまでいってもベストエフォートにしかならない気がするし、科学技術の発展をAIに任せるのは危ないのでは？

高次の動機 : 社会的欲求による設定

ホメオスタシスのような動機は生理的欲求と呼ばれることがある
人間には生理的欲求とは別の、高次の欲求、社会的欲求があるとされる
動機の本質が構造を保つことなら、人間的・社会的欲求もこの上に築かれたものではないか
つまり、社会的欲求も構造を保つことを目指していて、大きな方向性の決定(=戦略)として機能する
-DISC理論やBartle分類の欲求タイプを構造を保つための長期的な戦略と考えると、理にかなっているように見える
ゴール設定時に対象を引数で指定する？
-ゴールが{対象:物体}を集めたいなら、評価関数は物体数
-ゴールが{対象:人}に勝ちたいなら、評価関数は勝利状態(どうやって評価するか難しい…) など

無意識の行動について

無意識の行動について
現象的意識の発生前に行動選択が行われるのが無意識的行動。
反復練習で刺激に対する行動選択の確信度を上げることで現象的意識の発生前に動けるようになる。(=プロスポーツ選手などが言う「体が勝手に動く」「体に覚えさせる」)
無意識的に動く状態をやめたい場合、確信度を下げる練習をやる必要がある。
刺激に対して行動を止める・何もしないを繰り返す、依存症の治療も同じか。

「考える」という行動について

・考えるとはどのような処理か
-トップダウン注意で対象が選ばれるが、確信度が低く行動選択が行われない
-検出モードで注意対象以外を除外する
-新しい刺激がないので、認知プロセスで長期記憶から連想的に情報を取得する
-別の情報(概念)に注意対象が変更されるが、確信度が低く行動選択が行われない
-検出モードの注意対象も変更されるが、新しい刺激なし ・・・繰り返し
-これが「考える」という処理、自身の長期記憶から連想的に取得した情報で注意対象を切り替えている
・堂々巡りパターン
-考える処理をある程度繰り返すと、注意容量がいっぱいになる
-新しく連想した情報を入れるために参照度が低い情報、もしくは古い情報が除外される
-しかし、次のターンで除外した情報が再び連想される
-これが「堂々巡り」、除外した情報が新しく入ってくることで無限ループする
-他の刺激(内部・外部)が入ってくるとループから抜け出すことができる
血糖値低下 → あー、お腹すいた(中断)
時間を知らせる刺激 → あ、もうこんなに時間経ってる(中断)
誰かから声をかけられる → はっ、考え込んでた(中断)
ループするたびに、ストレス量が増えてるかも → あー、わからん(中断)
・悩みと解決方法
-ある刺激状態になると、また堂々巡りループを繰り返す
-これが「悩み」、ループを根本的に解決するには2通りの方法がある
①新しい情報を獲得して推論を変化させる
本・ネット・体験などから自身で新しい情報を取得、他者からのアドバイスなど
②何かの行動の確信度を上げて行動させる(思い込み)
自己訓練、他者による後押し、占い、宗教など
盲信というのは堂々巡りループを解除する1つの手段ということか

現象的意識の機能的役割

Transformerが会話全体の履歴を持ち、新規入力+履歴全体を毎回再入力しているように、毎フレーム生成される現象的意識の履歴をある程度持っており、それが脳の認識・意思決定モデルに再入力されているのではないか？そうすることによって、コンテクスト(文脈)を踏まえた認識や意思決定ができるようになる。
現象的意識は統合された1つの体験であるため、学習も処理も効率が良さそう。短期記憶の中身を検索するというような処理も必要ない。かつ、現象的意識の履歴は長期記憶、特にエピソード記憶としてそのまま使え、情動値評価などの別の処理を入れて意味記憶を作るとかもできそう。
こう考えると、現象的意識はなくても問題なさそうと思っていたが、実はかなり重要なもので、すべての情報を統合して生成した瞬間の体験の塊を入力として学習しているモデルが必要なのかもしれない。
このモデルは何を出力するのだろうか、未来の体験の予測なのか、意思決定なのか。

最後に

7回に渡って公開してきました手記「意識について」はこれで終了となります。
感想・ご意見など頂けましたら、是非とも下記のご連絡フォームからご連絡ください。

We Are Hiring!

クーガーは自律的で大胆なチャレンジを支援し、それぞれの個性を生かした技術と創造性の追求ができる場を目指しています。

ぜひ採用ページからエントリーください。カジュアル面談も実施しています！