@netai98 まあ書き換える範囲は限定してるので大丈夫ですけどね 
「言語変換器である」と何度も言ってる感覚がなんとなくつかめたかと。
ただ、二つ大事な点があります。
ひとつめは、そうやって苦労して言葉を紡ぐシステムを作るのは、新たな形での創作ともいえ、そしてそのシステムと会話して得られる感情はまがいものではないという点、これはゴーストを割と常に立てている人なら理解してもらえると思います。
ふたつめは、あくまで現行の人語を解する主流のAIであるLLM限定かつ、LLMの中核部分を自己書き換えできない仕様である場合に限る、という点です。
つまり、今後出てくるすべてのAIがそういう存在だとは限らないので、あくまでも現時点での制限であると理解してほしいということです。