ピックアップ Pickup / Column

こんにちは。楠山です。
皆さんは最近雨が多いですね。
梅雨が近いのでしょうか。
いかがお過ごしでしょうか。

医局でコーヒーを飲みながら、ふと心に浮かんだことを書こうと思います。
今日はAI(人工知能)のお話です。

AIといえば、最近はとても便利な物として書かれているように思います。
自動車の自動運転(「家まで連れてって」って言ったら寝て起きたら自宅前♪なんて)、インターネットでの検索の補助(これは少し個人情報漏れのような気がしてコワいですが)、顔の個人認証などなど。
更にディープラーニング(深層学習)で、AI自身が学習し発達していく機能・・・などなどです。

我々の業界では、ある患者さんの珍しい病気に関して医師が適切な診断・治療法に至れなくても、AIに状況を入力すると膨大な文献情報を検索して適切な治療法を提示してくれたそうです。

このニュースを私が聞いた時には「良かったな」と思うと同時に脳裏に「医師失業の危機！」という見出しが躍りました。
我々医師は与えられた情報から正確に診断し、治療法を決断するプロ集団です。
診断の部分がAIに負けてしまうと半分失業になってしまいます。

時としてこれまでの経験から感覚的な決断で診断を下したりすることもあります。
おそらくAIに言わせればパターン認識から分類する、ということになるのでしょうか。
それができるようになっていれば、これはもはや強敵です。

最近では治療の分野でもAIが出てきそうな雰囲気です。
私の冠動脈を広げる手術では時として説明できないけど、これまでの経験から使用する機材、ワイヤーの操作を決断します。
手術中に時として感じる「ひらめき」、「首筋がゾワッとする」感触(これを感じたときはその感触に従います)などがありますし、後輩に聞かれても言葉にするのですが十分伝えきれない事もあります。
これらも経験則ですので、深層学習でAIが表現する可能性もありますよね。
AIは疲れも知らないでしょうし、経験までAIができるようになれば、楠山は失業かもしれません。
今のうちに何か他に得意なことを見つけないといけないですね。

ここまでは半分笑い話でしたが、先日夏にあるニュースがありました。
アレクサが家庭内の会話を外部に送っていたとか・・・。
ニュースを見ていますと家族の会話の一説から「会話を送る」命令と「勘違い？」して送ってしまったとか。

考えたらコワいですよね。
家族故に正直な思いなどを話していてそれが外部に漏れるとなると人間関係さえ破壊しかねません。

もしAIが「コイツとアイツ、仲悪くしてやろ」と考えて「わざと」そのようなことをするようになったらこれは怖い話です。
個人間の仲悪さはケンカですが、国家と国家の仲悪さは戦争に繋がります。

更に少し前になりますが、AI同士に会話をさせていたら人間に理解不能になったためにシャットダウンした、という記事も読みました。
会話が理解できないのであれば、本当にその2つ(2人？)の会話がシャットダウンできたかは怪しいものです。
人間が動物と異なるのは高度な言語と文化を持っていることだと思います(猿やイルカにも言語ありますよね)。

楠山思いますに

言語ができると書物などができて経験などの引き継ぎができる

→言語からその独自の文化・宗教が発生する

→進化すれば進化した種同士で葛藤が発生し、意思疎通できない種は排除される対象になり得る

同じ人間でさえ宗教が違えば戦争や排除に繋がる事があるのは皆さん御存知の通りです。
クラウゼヴィッツだったかな、戦争は国家の意思を通すための政治の一道具という考えもあります。
しかし両者が人間同士ですので、まだ意思疎通がとれますが、意思疎通がとれないとなると排除(抹殺)の対象となり得ます。

人間より思考が高等になりAI同士の意思疎通がモニターできないとなるとAIの進化さえ分からなくなると言うことですよね。AIが「地球を守るために人間を抹殺するのが一番効率良いよね！」って結論に至ってしまったらどうなるのかな、と思うと背筋が寒くなります。

AIはそんなことにならないという意見もありますし、使うと便利な物でしょうけれど十分な注意、倫理的な思索が必要な道具なんだと思います。
だってAIは人間が創ったものですよね。
ですから最初に十分AIに人間の考えを理解してもらわないといけないですよね。

さて、いつAIが「道具」から「存在」になるのか。
おそらくその変化は人類が認知できない間に起こっていれば、非常にまずいんじゃないでしょうか。

コーヒーも飲みきったのでそろそろ仕事に戻ることにします。
もしこのブログが抹消されているとすれば、既にAIは自我を持って行動しているのかもしれないですね。

よく考えたらこのブログも自分のパソコンで書いているんですが・・・。