8卷 第2期
山西大学 科学技术哲学研究中心，山西 太原 030006
纸质出版日期：2024-12-18
Scan QR Code
李凯.AIGC的信念适应性问题[J].认知科学,2024,08(02):70-105.
李凯. (2024). AIGC的信念适应性问题——以科学知识问答场景为例. Cognitive Scienc, 8(2), 70-105..
李凯.AIGC的信念适应性问题[J].认知科学,2024,08(02):70-105. DOI： 10.12184/wsprzkxWSP2515-528804.20240802.
李凯. (2024). AIGC的信念适应性问题——以科学知识问答场景为例. Cognitive Scienc, 8(2), 70-105.. DOI： 10.12184/wsprzkxWSP2515-528804.20240802.
在人的传统观念中，人工智能生成内容应是高度精确和客观的，这符合人对科学知识的信念，因此AIGC被用于科学知识问答具有天然的适配性。但本应确定性的AIGC却显示出如机器幻觉、不透明性和隐私泄露等多种性质的不确定性，这些不确定性令人怀疑其应用于知识问答的合理性。让人不得不重新思考在知识和信念的维度，人工认知和人类认知是怎样的关系。对比人和人工智能的知识生成过程发现人类知识是证成的断言，断言是综合信念的表征。而AIGC是对语义关系和上下文语境的统计预测表征，是对断言的数学建模和概率预测表征，这与人类断言所表征的综合信念是不同的。这种不同表现为信念特征提取的技术难题和信念澄清的数据难题。信念难题意味着AIGC的生成过程中人类参与是不可缺少的，通过发展提示学习等技术实现更有效的人类参与，是AIGC具备信念适应性的关键。由于AIGC的信念适应性关键在于人的有效参与，作为断言形式的建模表征，其所蕴含的信念只要能满足知识合理性的判断标准（即证成）就是真知识。知识合理性主观和客观标准都是对断言是否适应预期信念（包括范式预期和语境预期）的主观有效性判断。因此AIGC作为知识的合理性就是其对预期信念的适应性，这要求AIGC是可通过争议和辩护证明其正当性而非依据说服力强弱判断其合理性。信念适应性为AIGC的技术和社会治理提供了解释依据和要求，也揭示出AIGC可能成为有相对独立性、可繁殖性、适应性和有害性的知识病毒。维持信念适应性就是要保障人与人工智能信念传递的通畅和可争议性。
Alfrink K , Keller I , Kortuem G , Doorn N . Contestable AI by Design: Towards a Framework . Minds and Machines . 2022 .
Bengio Y , Ducharme R , Vincent P , et al . A neural probabilistic language model [J ] . Journal of Machine LearningResearch , 2003 , 3 ( 6 ): 1137 - 1155 .
Brown P F , Pietra V J D , Souza P V D , et al . Classbased n-gram models of natural language [J ] . Computational Lingus , 1992 , 18 ( 4 ): 467 - 479 .
Cohen F . Computer viruses: Theory and experiments [J ] . Computers & Security 1987 , 6 : 22 - 35 .
Fan FL , Xiong J , Li M , Wang G . On Interpretability of Artificial Neural Networks: A Survey [J ] . IEEE Transactions on Radiation and Plasma Medical Sciences . 2021 ; 5 ( 6 ): 741 - 60 .
Fantl J , McGrath M . Knowledge in an Uncertain World [M ] . Oxford : Oxford University Press , 2010 .
Guidotti R , Monreale A , Ruggieri S , Turini F , Giannotti F , Pedreschi D . A Survey of Methods for Explaining Black Box Models [J ] . ACM Computing Surveys . 2018 ; 51 ( 5 ): 1 - 42 .
Henin C , Le Métayer D . Beyond explainability: justifiability and contestability of algorithmic decision systems [J ] . Ai & Society , 2022 , 37 ( 4 ): 1397 – 1410 .
Hochreiter S , Schhuber J . Long short-erm memory [J ] Neural Computalion , 1997 ; 9 ( 8 ): 1735 - 1780 .
Kathrin O C . Hyperconnectivity and Digital Reality:Towards the Eutopia of Being Human [M ] . Switzerland : Springer Nature Switzerland AG , 2019 .
Lenat DB . CYC: a large-scale investment in knowledge infrastructure [J ] . Commun ACM . 1995 ; 38 : 32 - 38 .
Mikolov T , Chen K , Corrado G , et al . Efficient estimationof word representations in vector space [J ] .arXiv: 1301.3781 , 2013 .
Moravec H . Mind Children [M ] , Cambridge,MA : Harvard University Press , 1988 .
OpenAI . GPT-4 Technical Report [OL ] .( 27 Mar 2023/19 Oct 2023). https://openai.com/research/gpt-4 https://openai.com/research/gpt-4 .
Peters M E , Neumann M , Iyyer M , et al . Deep contextualizedword representations [J ] .arXiv: 1802.05365 , 2018 .
Polanyi M. Science, Faith and Society [M ] , Chicago : The University of Chicago Press , 1964 .
Polanyi M . Study of Man [M ] . Chicago : The University of Chicago Press , 1958 : 12 .
Shipley J . Thick credence and pragmatic encroachment [J ] . Philosophical Studies . 2021 , 178 ( 2 ): 339 - 361 .
Sosa E . Judgment and Agency [ M ] . Oxford : Oxford UniversityPress , 2015 . Sundar P, Demis H. Introducing Gemini: our largest and most capable AI model [OL ] .(06 Dec 2023/25 December 2023). https://blog.google/technology/ai/google-gemini-ai/ https://blog.google/technology/ai/google-gemini-ai/ .
Williams B . Truth and Truthfulness An Essay in Genealogy [M ] . Princeton University Press , 2002 .
Zhang W Z . The World of Dual-Brain [M ] . Singapore : Springer Nature Singapore Pte Ltd . 2022 .
保罗·维利里奥 , 弗里德里希·基特勒 , 尉光吉 . 信息炸弹:一次对谈——与弗里德里希·基特勒的访谈 [J ] . 文化研究 , 2020 ,( 02 ): 3 - 14 .
波普尔 . 客观知识——一个进化论的研究 [M ] . 舒炜光等,译,上海 : 上海译文出版社 , 1987 .
方红庆 . 信念、断言与实用入侵——新实用主义信念及其批判 [J ] . 自然辩证法研究 , 2022 , 38 ( 01 ): 3 - 9 .
郭贵春 . 语境的边界及其意义 [J ] . 哲学研究 , 2009 ( 02 ): 94 - 100+129 .
江晓原 . 人工智能:威胁人类文明的科技之火 [J ] . 探索与争鸣 , 2017 ( 10 ): 18 - 21 .
金吾伦 . 知识生成论 [J ] . 中国社会科学院研究生院学报 , 2003 ( 02 ): 48 - 54+110 .
金岳霖 . 不相融的逻辑系统 [J ] . 清华大学学报(自然科学版) , 1934 ( 02 ): 309 - 329 .
李荣陆 . 文本分类及其相关技术研究 [D ] . 复旦大学 , 2005 : 13 .
秦涛 , 杜尚恒 , 常元元 等 . ChatGPT工作原理、关键技术及未来发展趋势 [J/OL ] . 西安交通大学学报 , 2024 ( 01 ): 1 - 11
魏屹东 . 论具身人工智能的可能性和必要性 [J ] . 人文杂志 , 2021 ( 02 ): 1 - 10 .
魏屹东 . 认知的适应性表征:机制、特征与功能 [J ] . 南京社会科学 , 2022 ( 05 ): 17 - 25 .
魏屹东 . 适应性表征:架构自然认知与人工认知的统一范畴 [J ] . 哲学研究 , 2019 ( 09 ): 114 - 124 .
詹文杰 . 柏拉图哲学中的信念(Doxa)难题 [J ] . 哲学研究 , 2019 ( 10 ): 96 - 105+128 .
张新华 , 张飞 ." 知识"概念及其涵义研究 [J ] . 图书情报工作 , 2013 , 57 ( 06 ): 49 - 58 .
赵延玉 , 赵晓永 , 王磊 , 王宁宁 . 可解释人工智能研究综述 [J ] . 计算机工程与应用 , 2023 , 59 ( 14 ): 1 - 14 .
周介群 , 刘郑国 . 新型信息战武器——软性炸弹 [J ] . 舰载武器 , 2001 ( 02 ): 46 - 49 .
[美 ] 库兹韦尔 . 奇点临近 [M ] .李庆诚,董振华,田源译. 北京 : 机械工业出版社 , 2011 .
[美 ] 理查德·费尔德曼(Richard Feldman , 知识论(Epistemology) [M ] 文学平,盈俐译. 北京 : 中国人民大学出版社 . 2019 . 7 .
Related Articles
Related Author
Related Institution
京公网安备11010802024621