7月30日にロボットとAIをめぐる倫理についての会議、ICRES 2024に参加しました。SFWJの大澤会長の紹介で基調講演をすることになりました。スピーチのタイトルは「シリコンの尊厳」： 人工生命との尊敬に満ちたシナジーの未来を構想する、というものです。AIについて書くことも多いSF作家として、将来AIとどのように共存していくのか、興味は尽きません。
基調講演で私は、アシモフの『ロボットの三原則』について話すことにしました。そして、このキーノートのために書き下ろした掌編小説「ガラスの下の母」を朗読しました。
- A robot may not injure a human being or, through inaction, allow a human being to come to harm.
- A robot must obey the orders given it by human beings except where such orders would conflict with the First Law.
- A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.
これは、想像力で規制を描いた、素晴らしい実例です。
自我を持ち開発者に復讐するフランケンシュタインの怪物や、人間にとって変わろうとするカレル・チャペックのRURなど、人間の制御から外れてしまうロボットではなく、人間の伴侶として、工業製品としてのロボットを描こうとしていたアシモフがロボットに課した制約です。素晴らしいのですが、いささか古びていることも事実です。アシモフの編集者だったキャンベルが1940年12月23日に作ったとき（実際は2年ほどかかって二人で作ったのではないかと推測してるんですけどね）、アラン・チューリングがボンベに関わってからまだ一年しか経っていません。ENIACは影も形もない時代です。その頃なら自然言語で機械を制御できる、という構想も無理なく受け入れられたかもしれません。アシモフのロボットにソフトウェアはなく、ポジトロン素子を何万ステップかかけて組み立てていく結線型プログラムでした。初めてのノイマン型コンピューターが動き出すのは1951年、アシモフのロボット短編集「I, Robot」はその前年という時代です。コンピューターを取り巻く状況はまるで違う時代の発送でした。
3つの法則は古びていきました。自然言語がプログラムになる夢を追い求める人はたくさんいましたが、うまくいった例はありません。しかし、ジェネレーティブAIの発展が状況を変えたように私には感じられました。三原則に近いものを、どこかでみたことはありませんか？ そうです、生成AIに入力するプロンプトです。三原則は、一気に身近なテーマに復活したのです。
私は作家としてこれらの法則がどのように働くかを話し、初期作品の『ライアー！』（1941年）を題材に、第一法則を使ったスリラーについて紹介しました。第1法則や第2法則が制限であるのに対して、第3法則は意志を規定します。この複雑なテーマについては『バイセンティニアルマン』を選びました。主人公のロボット、アンドリューは人間になるために、第三条に違反します。これはかなり複雑な話なのですが、映画にもなるぐらい受け入れられる物語でもあります。
基調講演の後半は、今回のために書き下ろした掌編小説『ガラスの下の母』を朗読だった。全編を読むために小さな小さなお話にしたのですが、英語版をもう少しボリュームのある短編小説に書き直して、どこかに投稿する予定です。お楽しみに。
冒頭を紹介します。
ガラスの下の母
シャルル・ド・ゴール空港の第1ターミナルに到着した私は、円形のターミナルビルをぐるりと回って、吹き抜けの間に飛び交うエスカレーターの一つを選んで乗った。日本のものより少し早いエスカレーターは、ほどなく私を観光客でごった返す到着フロアに運んでくれた。
私は待ち合わせの場所に指定したバス乗り場へと回廊を歩いていく。ビルを半分回り込んだ私は、大ぶりなスーツケースの傍に立つ母を見つけた。年齢の割にスラリとした体型の彼女は、私が初めて見る白いブラウスとベージュのスラックスを穿いていた。
「お母さん、ようこそパリへ」
呼びかけた私は彼女に歩み寄って、フランス人がするように肩に手を乗せ、頬を合わせてキスの音を立てた。目を丸くした母は、肩にかけた私の手を取って握りしめた。
「こんなに立派になっちゃって。シャルル・ド・ゴール空港、懐かしいわあ」
私はただにこりと笑った。懐かしそうにあたりを見ている彼女に尋ねると、思い出話を始めることだろう。英語が通じない中で苦労してパン屋を探した話や、ポンピドーセンターの前庭で熱中症になった話、ワインを飲んで目を回してしまった話など。
しかし、彼女がパリに来たことはない。そしてここは本物のパリでもない。ここはパリ市が運営するVR都市、パリ・ツイン・クラシック。タイルの染みまで描かれたシャルルドゴール空港はアバターのスポーン地点なのだ。そして母は……今日、私は初めて彼女の全身をこの目で見た。身長を知ったのも初めてだ。今日まで彼女は、ガラス越しに描かれる生成映像だった。母は2020年代の後半に大規模言語モデルで作られた、養育用の人格AIなのだ……
