専門家にそう言われてしまうと、一般人としてはなかなか反論がしづらいところですが、この問題、実は一番簡単に考えるとシンプルな答えが出てくると思っています。

結論としては、「人工知能の将来に対して、ヒトはもっと警戒した方が良い」だと思います。

その理由は、意外な盲点にあります。

つまり、「ヒトは今まで、誰一人として物事を客観的に判断したことが無いが、人工知能は物事を客観的に判断してしまう」という事です。

こう聞くと、「そんな事はない、日常的に、客観的な判断をしている」と思われる事と思います。

では、このような例はどうでしょう？

例えば、「食糧難を解決しなければいけない！」に対して客観的に判断する場合。恐らく全てのヒトが、「人間にとっての」食糧難を想定し、例えばクマや魚や害虫などにとっての食糧難を最初に想定する人はいないと思います。

ところが、人工知能がもしヒトのコントロールを脱して自律的に考え客観的に判断する場合、無条件に「ヒトにとっての」という主語がつく事はありません。

まずは「どの生態系を優先すべきか」という判断から下していくことになります。

これが、本当の意味での「客観的判断」であり、今まで誰一人判断しなかったようなジャッジが、次々となされていくことになります。

こう考えると、単に人工知能がヒトの敵かどうかではなく、淡々と客観的に判断することが、ヒトにとっての不利益になる場合の方が多くなりそう、という事です。

また、人工知能が「自我を持つか」「意識を持つか」といった問題は、もはやあまり関係がなく、「ヒトにとっての」が前提とならない限り、重大な結果になる可能性は高いのです。、

「人工知能は脳しかないから、たとえ暴走しても害はない」と思われるかもしれませんが、残念ながら近い将来人工知能は脳だけでなく身体も持つこととなります。いまヒトは、全てのモノをインターネットと繋げようとしています。

そうなると、たとえば人工知能とロボット製造工場が繋がることも十分にありえます。人工知能は意のままにロボットを作り、実力行使も可能となるのです。

以上のような、ごくシンプルな理由から、「ヒトはもっと人工知能の将来に警戒した方が良い」と思うのです。