第338章 没有什么是做不得假的

  第338章 没有什么是做不得假的

  马修本来是开玩笑，想说个正確的废话来活跃一下气氛。不过听在拉里耳朵里却有了別样的意味。

  拉里忽然想起了前世的ai，他穿越之前，ai已经开始大规模发展了。一开始，人们视ai为非常神秘，非常高大上的东西————

  但很快，就有人找到了ai的致命缺点，就是很容易出现数据污染和幻觉。

  因为大语言模型的根本构架训练方式，和人类的使用方式共同导致了系统的脆弱性。

  因为ai本身不是在思考，只是在统计相关联的概率。举个例子，他知道巴黎和法国首都会高频出现，但不理解，首都到底是什么意思？也不会知道巴黎有艾菲尔铁塔。

  数据污染则更容易理解，因为对ai的训练数据，包括错误的信息、偏见，阴谋论、还有大量的虚假新闻。

  而大模型的根本目的是为了追求流畅而並非真实。

  所以只要从源头去污染，ai就很容易输出，造成污染的人，想引导出的一致性答案。

  有时候ai不是故意撒谎，而是被设计成避免沉默。它寧可编一个理由，甚至这个理由一看就非常荒诞，也不会说“我不知道”。

  所以现在的ai大模型就会出现必然的不靠谱的结果————

  这对一个理智的人来说是能够理解的，也能够明白ai的问题是难以避免的。

  马修刚才说欺骗的时候，拉里刚好想到了ai搜索————在马修的提示下，拉里本能反应就是可以“污染信源”。

  毕竟，此时的新闻报导大多数来源於记者的一面之词。现在甚至都不是“有图有真相”的时代，现在可是黄色新闻的时代，报纸上吹的越邪乎越有人看————

  並且，拉里忽然推导出另一个答案。那就是——ai的数据污染与幻觉问题，其实，与当代媒体中的结构缺陷高度相同。