○人工知能とスーパーロボット [2]

 　また人工知能は誤った答えを出すこともあり、100%正しい判断をするという保証はない。つまり0.1%の間違った判断をした時にどうなるかを考えて、どこに使用するかを考えることになる。人工知能はすでに医師よりも正確にガンの発症を予測できるが、その後、人工知能が99.9%正しい手術を行うようになっても、運悪く0.1%の失敗のタイミングに遭遇することもある。つまりそれを利用する人間が人工知能を信頼しつつも、失敗に遭遇した時は運が悪かったと了承するしかない。つまり死と関係する場合は、万が一人工知能が間違った判断を下した時に、すぐに修正が効く、もしくは死の可能性を最小限に留めた方法で使うことが必須となる。