今回はＦＡの話ではありません。更新したいのにアイデアがでなかったので別の話になりますが、将来的にはＦＡも必然的に関わっていくテーマだと思います。
| 第一条 | ロボットは人間に危害を加えてはならない。また何も手を下さずに人間が危害を受けるのを黙視していてはならない。 |
|---|---|
| 第二条 | ロボットは人間の命令に従わなくてはならない。ただし第一条に反する命令はこの限りではない。 |
| 第三条 | ロボットは自らの存在を護らなくてはならない。ただしそれは第一条，第二条に違反しない場合に限る。 |
この三原則は「人間の命令の遂行」よりも「人間の保護」を優先させた画期的なものだと思います。アシモフ自身の紹介によりますと当時アメリカには「フランケンシュタイン・コンプレックス」があり、人間が（キリスト教では神の領域に属する）命の創造をするテーマの小説は全て創造者自身が被創造者によって殺されるものばかりでした。確かに日本のアニメでもロボットはもっぱら人間への攻撃に使われているようです（笑）。科学者（化学博士）でもあるアシモフはその状況が面白くなかったようです。それで自らがロボットを作る小説を書く際に作った規則です。編集者のキャンベルの発案とも言われています。
確かによくできた規則で、もしこれが本当に可能なら素晴らしいことだと思います。しかし、現実の機械制御技術はそんなレベルには到底達していません。
私も制御設計者の端くれですが、現在のところのレベルは
| 第一条 | 機械は自らを護らなくてはならない。異常等を検出した場合はすみやかに停止し、被害の拡大を防がなくてはならない。 |
|---|---|
| 第二条 | 機械は人間の操作（命令）に従わなければならない。ただし第一条に反しない場合に限る。 |
| 第三条 | 機械は自らの創造された目的のために働かねばならない。ただしそれは第一条、第二条に違反しない場合に限る。 |
なんか情けなくなりますが、そんな程度なのです。ロボット工学三原則の優先順位とは正反対になってしまいました。第二条は誤操作による機械の破損を防止するためのインターロックのことです。そういえばこのインターロックが原因でパイロットの操縦に逆らって墜落した飛行機もありました。これがどこまで必要かはかなりの議論になるでしょうが、今回はやめておきます。
（業種によってはフェイルセーフと呼ぶ場合もあります。）
昨今、人間型ロボットが話題に上がっていますが、工場等でそれなりの教育と訓練をつんだ作業者が使う自動機とは違い、一般家庭や介護での使用が提案されていますが、その場合の安全性確保については議論が進んでいないように思います。アシモフの提案は「人間の命令の遵守」よりも「人間の保護」の方が重視されているのが、その最大の特徴です。実際アシモフの小説には「短期間の被爆で健康にはほとんど影響ないのに、ロボットはほんのわずかでも危険があるといって人間を制止し、作業が進まない。」という話がでてきたりします。「そんな作業なら、それこそロボットにやらせろ！」と言われそうですが、アシモフのロボット実は短期間の被爆で壊れてしまうのです（もっともこれがないとストーリーにならないのですが）。
ちょっと脱線しました。戻します。例えば、介護で使うと仮定して高齢者に入浴させる仕事をロボットに与えるとします。もしかしたら、その高齢者は心臓が弱っていて、水風呂に入ったりすると心臓麻痺で死んでしまうかも知れません。ロボットは温度を測ってから入浴させるのでしょうか（安全確認）？それとも命令を優先して入浴させて死なせてしまうのでしょうか？また確認事項は水温だけでいいのでしょうか？石鹸やシャンプーの問題もあります。 かなり難しい問題です。このページを読んでいる方の中にコンピューターのプログラマーさんかシーケンサーのラダー屋さんがいるなら、そのソフトの膨大性を考えてみてください。（私個人の能力では不可能ですToT）仮に作れたとして安定性を確保できるのでしょうか？パソコンや最新の携帯電話を考えてみるとわかりますが、巨大なソフトは安定させるのが非常に難しいのです。
機械同士で連携できればいいパソコンや携帯電話でさえ、機能を増やしていって膨大な量になって安定性，信頼性を落としてしまっているのに日常生活に対応する機械など作ろうとすれば、どんな事態になるか想像もつきません。
食器の並べ方、しまい方。はしの置き方。お茶の入れ方、ご飯の炊き方。ゴミの拾い方、洗濯の仕方。私たちはなにげなく日常生活を送っていますが、そのためには２０年もの教育期間があるのです。学校の勉強より日常の生活の仕方の方が実際には難しいのではないでしょうか？
私はロボットの意義を否定しているわけではありません。（そんなことをしたら自己否定になってしまいます^^;;）
農業や鉱山での採掘あるいは、いわゆる３Ｋ（きつい，きたない，きけん）作業などに人間型ロボットを使うのは有効だと思います。
ただし、日常生活にまで導入するにはどれくらいの問題点があるか問題提起をしているだけです。アシモフの「ロボット工学の三原則」に忠実にロボットを作れるようになれば、よろこんで導入に賛成します。
二本足で歩ける機械ができれば全て解決するわけではなく、最近の自動機械もそうですが、機械（ハードウェア）を実際に動かしているソフトウェアが進歩しないと実際の実用化は難しいという事を理解していただきたいのです。
またロボット工学三原則は
でロボット自身から改訂が提案され、
で正式にアナウンスされています。
| 第零法則 | ロボットは人類を傷つけてはならない。また危険を見過ごすことによって、人類に危害を及ぼしてはならない。 | |
|---|---|---|
| 改正第一条 | ロボットは人間に危害を加えてはならない。また何も手を下さずに人間が危害を受けるのを黙視していてはならない。ただしロボット工学第零法則に反する場合はこの限りではない。 | |
| 第二条 | ロボットは人間の命令に従わなくてはならない。ただし第一条に反する命令はこの限りではない。 | |
| 第三条 | ロボットは自らの存在を護らなくてはならない。ただしそれは第一条，第二条に違反しない場合に限る。 |
※ページ内の発行年度はすべて原作（英語）の発行年度です。
１９２０年ソ連生まれ、三歳の時にアメリカに両親とともに移住帰化。コロンビア大学で化学、生化学専攻。化学博士。
１９４９年ボストン大学メディカルスクールに就職、生化学の準教授に就任するが１９５８年事実上教壇をおり（大学側との合意により準教授の肩書きは保持）著作業に専念する。ＳＦ，科学解説，推理などの多面的な執筆を続けた。
2001/06/07