只看到显而易见的算法
一家公司开发了一种人工智能,旨在从大量文本档案中发现新的创新想法。
该人工智能应建立创造性的联系,提出不同寻常的解决方案,以促进研发。
起初,人工智能提出了许多建议,但很快人们发现:大多数想法非常传统,总是基于相同的已知概念。
很少出现不同寻常或真正新颖的方法。
公司开始思考:为什么人工智能几乎不产生创造性或原创性的想法,而总是停留在显而易见的、熟悉的模式上?
问题:
为什么一个基于大量文本训练的人工智能倾向于生成主要是显而易见和熟悉的想法,而不是提出真正创新或令人惊讶的建议?
答案明天揭晓。
答案
该人工智能是在现有文本上训练的,这些文本主要包含已知的、成熟的想法和模式。
它学习基于常见组合和现有概念识别关联和概率。
由于真正新的、创造性的想法罕见且统计上不常见,人工智能将其评估为不太可能或不太合适。
训练目标是生成最合理且最易解释的建议,这导致人工智能主要偏好熟悉的、显而易见的联系。
与现有模式差异较大的创新,人工智能通常不会认为其有意义,因此很少产生。
结论:
基于现有数据的人工智能可能难以展现真正的创造力,因为它优化的是概率和已知内容。
因此,对于创造性应用,需要特殊的策略和训练方法,专门促进和奖励不同寻常的组合。