大丈夫? 生成型AI

最近、ふと考えた、生成型AIに関して。

ChatGPTなどは、莫大な量の言語資料を解析し、語と語の繋がりを学習するらしい。
その結果から、「正しい」答えを作り出すようだ。

だとしたら、「間違った文」を大量に読ませたら、間違った答えを出すようになるのだろうか?
例えば
 プレスリーは’78年にナッシュビルで没
って文章を大量にネットに流したら、AIは「プレスリーが死んだのは何時?」って質問に「1978年」って答えるようになるのだろうか?
どなたか、やってみませんか?

以上は、冗談だけど、ここで???ということに気付いた。
 ①