AI 不僅僅是一場新的技術革新，更是一場社會關系變革和價值觀念的重塑。它所帶來的不僅是技術創(chuàng)新和社會生活 的便利，還包括各種智能化風險和倫理挑戰(zhàn)。人類不能以純技術中心或者技術中立的視角來看待 AI 以及處理人類與 AI 的關系，典型體現(xiàn)如 AI 技術與用戶隱私及數(shù)據(jù)濫用問題。AI 技術的應用大量涉及個人數(shù)據(jù)的收集和處理，AI 系 統(tǒng)涉及的隱私和個人信息可能被用于未來模型的迭代訓練；AI 還可能被用來生成虛假信息或惡意軟件，從而造成重 大經(jīng)濟損失和引發(fā)法律糾紛。這些問題都迫切需要建立與之適配的社會治理和價值體系。

很多學界代表在公開論壇等場合表達了這一擔心。例如，復旦大學計算機科學技術學院教授、上海市數(shù)據(jù)科學重點實 驗室主任肖仰華在 2024 Inclusion 外灘大會上曾表示，人類與其擔心 AI 產(chǎn)生意識，不如先去擔心 AI 過速發(fā)展引發(fā) 失控的風險。肖仰華認為，AI 大規(guī)模應用的挑戰(zhàn)，首先在于當下的生產(chǎn)關系等社會發(fā)展上層建筑，如何適應以人工智 能為代表的先進生產(chǎn)力的快速發(fā)展；其次，技術普惠問題同樣值得關注，即如何避免少部分人借助先進技術形成不正 當?shù)母偁巸?yōu)勢；此外，還應該特別注意防范技術成癮，防止先進技術對人類造成反噬。

1950 年，艾薩克·阿西莫夫出版了《我，機器人》一書，書的引言中提出的“機器人三大定律”，開啟了人工智能倫 理（AI ethics）研究的先聲。“機器人三大定律”旨在約束自主機器，使其服從以保護人類為目的的強制性人性倫理準 則，從宏觀層面規(guī)范了人工智能的運用邊界。面向未來，AI 應用的首要原則應該是以人為本，AI 應用要回歸科技服 務于人的本質(zhì)，凡是傷害人之本性的 AI 要格外謹慎使用。此外，應明確 AI 不應該成為少數(shù)人的特權，每個人都有權 利并且能夠參與其中。這些新的社會和倫理關系也構成了新的人機關系的重要組成部分，亟待進一步從社會、倫理和 法律等層面對人機關系進行新規(guī)范、新思考。

展望未來，隨著應用的日益深入，作為人類的創(chuàng)造物，人工智能將被賦予以前只能由人類心智完成或嘗試的任務—— 產(chǎn)生接近乃至超越人類智能所能完成的結果，這無疑挑戰(zhàn)了人何以為人的決定性屬性。AI 的發(fā)展促使人們重新思考人類的獨特性和價值所在，促使人們從“以人類理性為中心”轉(zhuǎn)變?yōu)椤耙匀祟愖饑篮妥灾餍詾橹行摹保�并需要在技術進 步和人文關懷之間找到平衡。