日韩精品无码人妻一区二区三区,久久久久亚洲av片无码v,激情伊人五月天久久综合,尹人香蕉久久99天天拍久女久

【作者按】隨著通用人工智能（AGI）時(shí)代的來臨，人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用將給人類社會帶來深刻影響。一方面，AGI將無所不在，滲透到人類生活和生產(chǎn)的各個(gè)領(lǐng)域，有望成為推動(dòng)社會進(jìn)步的先進(jìn)生產(chǎn)力。但另一方面，AGI的濫用也可能給人類帶來一系列根本性的挑戰(zhàn)。

AGI的全面滲透和替代人類腦力勞動(dòng)，可能會損害人類的核心智力能力，對“何以為人”這一根本問題帶來沖擊。如果人類喪失思維、審美和情感等高級能力，其作為萬物之靈長的本質(zhì)將遭到傷害。因此，AI技術(shù)應(yīng)當(dāng)避免對人性造成傷害，確保人類腦力能力得到充分訓(xùn)練和實(shí)踐。

此外，AI濫用可能沖擊就業(yè)結(jié)構(gòu)、加劇社會分化、破壞組織治理模式、污染精神世界、侵犯人類意志、介入人類情感倫理事務(wù)等。AIGC技術(shù)所帶來的內(nèi)容泛濫，更可能消解美的稀缺性，損害人類審美情趣。

為防止這些潛在危害，應(yīng)當(dāng)為AI應(yīng)用設(shè)立準(zhǔn)則，AI應(yīng)用應(yīng)有其邊界，不應(yīng)過度、無限制使用。總之，AGI時(shí)代人機(jī)共舞的大幕已經(jīng)拉開。人類應(yīng)以何種身份出場，如何處理好與AI的關(guān)系，需要我們深思熟慮。追求自我超越的人性傾向推動(dòng)了AGI的發(fā)展，但這一進(jìn)程必須穩(wěn)健前行，三思而后行。

以生成式人工智能為代表的通用人工智能（AGI，Artificial General Intelligence），正在加速發(fā)展，機(jī)器智能達(dá)到甚至超越普通人類智能水平已不再是科幻而日益變成現(xiàn)實(shí)，機(jī)器超越人類的任務(wù)列表越來越長。機(jī)器能力的根本性飛躍進(jìn)一步吸引了巨大的資本和資源，各種生成式大模型獲得快速發(fā)展，已經(jīng)成為先進(jìn)生產(chǎn)力的典型代表。

相比較而言，人的生產(chǎn)能力漸漸有了“落后”的含義，畢竟人類腦力難以二十四小時(shí)在線，人類的體力也很難持續(xù)很久，人類的可靠性與穩(wěn)定性也不比機(jī)器有多少優(yōu)勢，再加上AGI智力水平對人類的超越，傳統(tǒng)基于人力資源的生產(chǎn)力有被人工智能（AI，Artificial Intelligience）生產(chǎn)力所取代的趨勢。在不久的將來，AGI終將有能力從事人類生產(chǎn)與生活中需要用到智力的大部分工作，完全有能力介入人類的情感與倫理事務(wù)。

AI將無處不在，像空氣一樣彌漫在我們生活的角角落落，似乎已成必然趨勢。每個(gè)個(gè)人、群體和組織都將被AI浪潮所裹挾，AGI將滲透到社會發(fā)展的每一根毛細(xì)血管。我們現(xiàn)在已經(jīng)很難想象沒有電和網(wǎng)絡(luò)的生活會是什么樣子。同樣，在不久的將來，我們也很難想象一個(gè)沒有AI的世界。未來時(shí)代的根本特征恐怕就是“無所不在的AI”。

然而，在AGI時(shí)代大幕即將拉開之時(shí)，我們不得不向時(shí)代的思考者們問一句，人類準(zhǔn)備好了么？這場時(shí)代大戲必是人機(jī)共舞。人類將以何種身份、何種方式扮演好自己的角色，又將如何處理好與機(jī)器這個(gè)伴舞者之間的關(guān)系？隨著AGI發(fā)展的加速，這些問題的回答日益迫切。AI技術(shù)進(jìn)步速度之快，應(yīng)用之速，給我們留下的時(shí)間并不充裕。

在肯定人工智能作為先進(jìn)生產(chǎn)力為人類帶來福祉的同時(shí)，我們也要審慎思考它可能給我們社會發(fā)展帶來的一系列問題。AI發(fā)展的負(fù)面問題已有大量討論，比如虛假泛濫、隱私泄露、技術(shù)壟斷、偏見不公、價(jià)值錯(cuò)謬等等。這些問題都是當(dāng)下已在發(fā)生，已為社會所熟知的問題。然而這些問題某種意義上都是表面層次的問題，隨著AI在幾代人群中的大規(guī)模應(yīng)用，有可能在發(fā)展先進(jìn)生產(chǎn)力的旗號下，造成一些長期而緩慢卻根本而致命的問題。好比現(xiàn)代年輕人群體的疾病，急癥易被感知與重視從而不難診治，而長期的、隱性的慢性病卻往往被表面的渾身肌肉所迷惑而輕視，不幸過早遭受致命一擊。

想想人類歷史發(fā)展進(jìn)程，何嘗不是如此，虛假的繁榮景象往往最易掩蓋暗自涌動(dòng)的真正危機(jī)。只有清晰認(rèn)識這些問題并找到預(yù)防之策，才能將人工智能發(fā)展成為推動(dòng)社會進(jìn)步、造福人類的先進(jìn)生產(chǎn)力，而不是將人類帶入萬劫不復(fù)境地的罪魁禍?zhǔn)住?/p>

AGI全面“入侵”，再問“何以為人”

AI的進(jìn)步不可避免地帶來人類相應(yīng)能力的退步。事實(shí)上技術(shù)的每一次進(jìn)步，有可能導(dǎo)致人類相應(yīng)能力的退步。汽車解放了雙腿，我們必須依靠高度的自律通過跑步或其他運(yùn)動(dòng)才能保有雙腿的能力。鍵盤代替了書寫，提筆忘字就成了很多人的共同體驗(yàn)。四肢能力，即便我們承認(rèn)是在退化也多不以為然，因?yàn)檫@是將雙手解放出來從事藝術(shù)創(chuàng)作、將雙腿釋放出來去美麗的田野郊游而必須付出來的完全可以忽略不計(jì)的代價(jià)。

一直以來，工具的使用即便導(dǎo)致人的某種能力的倒退，但并未改變?nèi)酥疄槿说谋举|(zhì)。工具本質(zhì)仍是人的附庸，人類因其強(qiáng)大的思維能力、獨(dú)特智慧而具有不可替代性。

然而，達(dá)到人類智力水平的AGI以一種無孔不入之態(tài)勢對人類腦力勞動(dòng)進(jìn)行肆無忌憚的全面代替，卻十分值得我們警惕。以人工智能內(nèi)容生成（AIGC，Artificial Intelligence Generated Content）為代表的AI應(yīng)用已經(jīng)在日常生產(chǎn)、生活中大量使用。AI生產(chǎn)代碼、文案、圖案、音樂、視頻已經(jīng)超越普通從業(yè)者的水平。常規(guī)的內(nèi)容生成任務(wù)AI基本上可以較好勝任。久而久之，人類社會大量內(nèi)容創(chuàng)造工作將被AI所代替。

大量的內(nèi)容生成任務(wù)實(shí)則是人類思維訓(xùn)練的重要方式。如果人類沒有足量的群體去實(shí)踐腦力活動(dòng)，如果AI剝奪了人類思維訓(xùn)練的機(jī)會，人類如何保有相應(yīng)的智力水平呢？我們很難想象將來有一天我們的傳統(tǒng)技能，比如烹飪的技藝、開車的技巧、寫作的技巧、寫代碼的能力，需要通過指定非物質(zhì)文化遺產(chǎn)繼承人，才能傳承和保有。

人何以為人，在AGI時(shí)代變成日益嚴(yán)峻而需要重新思考的老問題。人類相對于萬物的獨(dú)特性，高高凌駕于萬物之上而成為萬物之靈長，正是由人類的思維等核心能力所決定的。一個(gè)人喪失了行走或言說等能力，不影響其作為人的本質(zhì)。然而，如果一個(gè)人喪失了基本智力水平，喪失了思維能力、審美能力、情感能力，或者更極端一些成為了哲學(xué)家們曾經(jīng)設(shè)想過的有身無腦的“哲學(xué)僵尸”，那么其作為人的本質(zhì)則會受到根本性的傷害。

或許有人會說，信息時(shí)代計(jì)算機(jī)的計(jì)算與記憶能不也一直在代替人類的相應(yīng)腦力工作，也并未發(fā)生所謂的人類本質(zhì)退化危機(jī)。針對這種觀點(diǎn)，我想提醒的是，AGI時(shí)代，AI對人類腦力活動(dòng)的替代是全面而深入的，而信息時(shí)代的腦力能力替代總體上是散發(fā)、點(diǎn)狀的，量變帶來質(zhì)變。

AI的發(fā)展與應(yīng)用應(yīng)極力避免對人之為人的本性的傷害。人的退化絕不是發(fā)展AI初衷。沒有人愿意看到人類成為智能機(jī)器所豢養(yǎng)的寵物。人曾經(jīng)為人，人也必須仍然為人。一切有害于人之為人的AI應(yīng)用，應(yīng)該予以限制。為 AI應(yīng)用設(shè)立準(zhǔn)則是發(fā)展AI的前提。AI應(yīng)用倫理的根本原則就是不能損害人性，確保人類的腦力必須得以充分的訓(xùn)練與實(shí)踐。

關(guān)注對AI的惡用，尤其濫用

關(guān)于AI的使用，我們需要關(guān)注的不僅是其善用，也應(yīng)關(guān)注其惡用和濫用。所謂的AI惡用，就是惡意的AI應(yīng)用。比如：AI用于自制武器、欺詐欺騙。我們多數(shù)人對AI惡用有著清晰的認(rèn)知，能夠作出積極的防范。

讓人擔(dān)心的是AI濫用。所謂的濫用，是指過度地、不加限制地使用AI技術(shù)。這種濫用往往出于AI眼前巨大利益的考慮而有意無意忽視AI長期問題，最終對人類福祉或者特定群體利益造成難以彌補(bǔ)的侵害。正如克魯斯所說：“人工智能是人類有史以來發(fā)展的最大發(fā)明之一，但同時(shí)它也可能是我們的最后一項(xiàng)發(fā)明。”

AI濫用往往有著溫和甚至是極具吸引力的外表。有多少人能拒絕“先進(jìn)生產(chǎn)力”，有多少人能拒絕一個(gè)貼心的、隨時(shí)聽候召喚的AI助手。人類對毒品尚難以拒絕，更不用說AI這類精神毒品。久而久之，AI濫用會像溫水煮青蛙一般以一種緩慢而難以察覺的進(jìn)程給人類帶來難以挽回的傷害。對于AI的濫用問題，我們需要保持高度的警惕。AI應(yīng)用應(yīng)該有所為，有所不為，AI應(yīng)用應(yīng)設(shè)立基本原則。

AI應(yīng)用所代替的人類能力應(yīng)該嚴(yán)格限制于人類已經(jīng)具備的能力。換言之，如果某人想使用AI的某項(xiàng)能力，他自身在這方面的能力應(yīng)該超過AI而不是低于AI。首先，AI是可能犯錯(cuò)的，AI所犯下的錯(cuò)誤需要足夠?qū)I(yè)水平才能識別。如果人們在某一方面尚不具備必要的能力，就很容易被AI誤導(dǎo)。其次，如果我們在尚未掌握某項(xiàng)能力的情況下，就輕易地使用AI的這項(xiàng)能力，那么久而久之我們的這項(xiàng)能力就得不到足夠的鍛煉和實(shí)踐，進(jìn)而難以充分發(fā)展這種能力。如果說這種能力的損失對我們來說是無法接受的，那么我們就應(yīng)謹(jǐn)慎對待AI相應(yīng)能力的使用。

或許會有人說，既然我已經(jīng)具備某項(xiàng)能力，為何還需要使用AI的這項(xiàng)能力，這似乎是個(gè)悖論。事實(shí)上，作為以某項(xiàng)能力見長的人類專家，其精力與時(shí)間是有限的，AI的賦能將專家從其擅長的任務(wù)中解放出來，使得專家有足夠的從容去挑戰(zhàn)更加困難的問題。從這個(gè)意義來講，AGI本質(zhì)上應(yīng)該是人類專家提質(zhì)提效的工具。對于普通人，AGI則應(yīng)慎用。

AI的濫用將沖擊當(dāng)前的就業(yè)結(jié)構(gòu)，進(jìn)而引發(fā)社會震蕩。AI的應(yīng)用應(yīng)以充分保障人類就業(yè)為基本前提。每當(dāng)我們創(chuàng)造一個(gè)AI新應(yīng)用，我們就有責(zé)任設(shè)計(jì)出一個(gè)新的人類職業(yè)來保障人類的充分就業(yè)。每當(dāng)AI替代一個(gè)人類工作崗位，我們就應(yīng)創(chuàng)造出一個(gè)新的就業(yè)機(jī)會。創(chuàng)新人類的崗位設(shè)置、保障人類的充分就業(yè)應(yīng)當(dāng)成為政府和企業(yè)社會責(zé)任的新內(nèi)涵。否則，久而久之，人類只能進(jìn)入無所事事的境地。

人們的學(xué)習(xí)進(jìn)程，即便得到AI輔助，相對于AI的快速發(fā)展速度而言仍是緩慢的。人類就業(yè)結(jié)構(gòu)的調(diào)整涉及經(jīng)濟(jì)結(jié)構(gòu)等上層建筑的調(diào)整，是個(gè)緩慢的進(jìn)程。這一調(diào)整進(jìn)程也必須有序而緩慢，否則會引起社會震蕩。因此，AI的發(fā)展應(yīng)該為就業(yè)結(jié)構(gòu)、經(jīng)濟(jì)結(jié)構(gòu)調(diào)整留下充足的時(shí)間，以保證社會的平穩(wěn)過渡。我們需要認(rèn)識到發(fā)展AI出發(fā)點(diǎn)是利用先進(jìn)生產(chǎn)力去促進(jìn)社會發(fā)展與文明昌盛，而穩(wěn)定是這一切的前提。AI應(yīng)用不能背離其本意。

AI的規(guī)模化使用的一個(gè)潛在風(fēng)險(xiǎn)是撕裂人類社會階層結(jié)構(gòu)。未來，人類勢必會因?yàn)锳I的存在而被分為AI智能水平之上的人和AI智能水平之下的人，不管每個(gè)個(gè)體愿不愿意，人與人之間的這種差距是客觀存在的。隨著AI智能水平的持續(xù)進(jìn)步，大多數(shù)人的智力水平可能處于AI水平之下將成為一個(gè)難以避免的事實(shí)，超越AI、駕馭AI將會變得越來越困難。《北京折疊》之類的文學(xué)作作品何嘗不是對AI應(yīng)用所造成的社會結(jié)構(gòu)撕裂所作出的超前隱喻。

如何防范由于AI應(yīng)用所帶來的階層固化甚至階層對立，如何保障讓個(gè)人都能擁有平等的AI教育和使用權(quán)利，從而防止AI能力差異所帶來的社會結(jié)構(gòu)撕裂，是我們需要嚴(yán)肅思考的問題。

AI的濫用也可能給人類社會的組織結(jié)構(gòu)帶來極大的沖擊。人類是以特定組織機(jī)制，以有效的協(xié)同方式，以一種集體智慧來共同應(yīng)對所面臨的挑戰(zhàn)的。無論是企業(yè)、軍隊(duì)、科研團(tuán)隊(duì)，絕大多數(shù)組織呈現(xiàn)出一種金字塔狀結(jié)構(gòu)。在頂端的往往是富有知識、洞見以及智慧的決策者、戰(zhàn)略規(guī)劃者，中層是富有經(jīng)驗(yàn)、長于事務(wù)處理的管理者、參謀者、戰(zhàn)術(shù)制定者，而底層則是具備一定專業(yè)知識與技能、從事具體執(zhí)行與操作的員工、助理、士兵、學(xué)生。

隨著生成式人工智能的進(jìn)步，這種金字塔形狀的組織結(jié)構(gòu)將會受到強(qiáng)烈的沖擊。當(dāng)AI能力超越了底層和中層的智能水平之后，金字塔尖的專家更愿意直接使用AI助理，以更加高效的方式，完成一些重復(fù)性、常規(guī)性的工作。專家/決策者/規(guī)劃者與AI助手的協(xié)同，打破了以往的人類組織協(xié)同模式。隨之而來的問題是人類助手的實(shí)踐機(jī)會的減少，其成長為專家的路徑被截?cái)唷．?dāng)老一代人類專家逐漸凋亡，新興人類還有多少人能勝任傳統(tǒng)技藝，是我們需要嚴(yán)肅思考的問題。

護(hù)持人類真實(shí)世界，為AI設(shè)邊界

AI應(yīng)用不應(yīng)污染人類的精神世界。當(dāng)下，AIGC技術(shù)日新月異，文字、圖像、語音、視頻等各種模態(tài)數(shù)據(jù)的自動(dòng)生成與處理技術(shù)都取得了前所未有的進(jìn)步。AIGC為內(nèi)容生成、藝術(shù)創(chuàng)作、影視制作帶來了極大的效率和質(zhì)量提升。人人都是創(chuàng)作者、藝術(shù)家的時(shí)代似乎已然來臨。一個(gè)小學(xué)生只有有足夠創(chuàng)意，似乎就可以制作一部影視大片。然而看似豐富多彩AIGC生成內(nèi)容，也不可避免的帶來人們感官上的頭暈?zāi)垦＃f日世界的天真與爛漫日益演變成AI時(shí)代的光怪與陸離，我們越來越難以理解由AI所塑造的新世界。

AI內(nèi)容創(chuàng)造的本質(zhì)是組合拼裝，是移花接木。首先，我們必須承認(rèn)與珍視AI這種組合創(chuàng)新能力，因?yàn)槿祟惖拇蠖鄶?shù)創(chuàng)新實(shí)質(zhì)也是組合創(chuàng)新。而且，AI的組合創(chuàng)新能力遠(yuǎn)勝于人類，它能將人類難以關(guān)聯(lián)的元素組合。所謂風(fēng)馬牛不相及、八桿子打不著的元素組合，對于AI而言是十分容易的，比如青花瓷外表的艦艇，三星堆風(fēng)格的飛機(jī)。這種鮮見的組合創(chuàng)新在AIGC工具成熟之前，是不會有人類畫師無聊到去嘗試的。然而在AIGC降低創(chuàng)作門檻和代價(jià)之后，大量的這類新奇且古怪的組合創(chuàng)新呈泛濫之勢充斥人類社會。

人類生物感官有多大程度上能適應(yīng)未來光怪陸離的世界？這是值得我們嚴(yán)肅思考的問題。更為值得深思的是機(jī)器的組合創(chuàng)新本質(zhì)上是同質(zhì)化的創(chuàng)新，其本質(zhì)上是借助機(jī)器的強(qiáng)大計(jì)算能力將人類難以想象的組合以較低的代價(jià)生成并呈現(xiàn)而已。人類對世界的認(rèn)識、人類從零到一的原始創(chuàng)新，并未因?yàn)榻M合創(chuàng)新而有所增益。組合創(chuàng)新的表面繁華反而更容易掩蓋原始創(chuàng)新貧弱的真實(shí)窘境。

AI應(yīng)用不應(yīng)侵犯人類的主體意志。人之為人的根本特性之一就是自由意志。但事實(shí)上，AI工具在一定程度上已經(jīng)侵犯了使用者的主體意志。例如，在推薦系統(tǒng)里，用戶只需要進(jìn)行簡單類目設(shè)置，便可享用推薦功能。換言之，AI已經(jīng)在某種程度上已經(jīng)行使了其自身的推薦意志。事實(shí)上有多少內(nèi)容是我們真正想看到的呢，越來越多的內(nèi)容實(shí)質(zhì)上是AI背后的平臺方的意志體現(xiàn)。更進(jìn)一步，由于當(dāng)前大模型技術(shù)的不透明、不可控，也可以說是大模型自身的意志也體現(xiàn)在了推薦結(jié)果中。

隨著AIGC的日益成熟，短短的一句提示詞，就能生成一分鐘的視頻，要不了多久一句提示詞就能生成一部電影。那么這部電影中的內(nèi)容有多少是經(jīng)過人類思考并確認(rèn)的呢？絕大多數(shù)內(nèi)容都是AI自身意志的體現(xiàn)。

事實(shí)上隨著AI的進(jìn)步，人類逐步放棄自由意志而由AI代替其發(fā)揮決策，似乎是個(gè)必然趨勢。人類基于語言的意愿表達(dá)從根本上來講是模糊而不精確的，這就為AI發(fā)揮自身意志留下了空間。其次，AIGC創(chuàng)作代價(jià)之低免除了人類繁重的藝術(shù)創(chuàng)作工作，有多少人能拒絕這種誘惑呢。試想如果AI根據(jù)一個(gè)極其簡單的提示詞就生成一部讓人震撼的電影作品，那么有多少人會要對抗AI的這種創(chuàng)作呢？傳統(tǒng)藝術(shù)創(chuàng)作的艱辛是很難抗拒AI制作的輕松的。最后，自主決策對于很多人而言是一種不可承受之重。選擇困難癥、隨大流可以說是現(xiàn)代人的通病。嚴(yán)肅思考下的決策往往是一種人們急于推卸的責(zé)任。有多少人愿意承擔(dān)關(guān)鍵思考的責(zé)任呢？

更進(jìn)一步，AGI創(chuàng)作本質(zhì)上體現(xiàn)的是人類的集體意志。AIGC濫用容易造成人類的集體意志對個(gè)人意志的抹殺，最終降低人類集體意志的認(rèn)知水平。大模型第一次使得人類有機(jī)會相對全面地考察人類的集體意志，這是極為值得我們珍視的能力。人類的知識、文化多元而龐雜，幾乎沒有人能全面了解全體人類的文化與知識。然而大模型在基于全人類盡可能多的高質(zhì)量語料喂養(yǎng)下，接近成為一個(gè)全才和通才，能夠以上帝視角建模不同學(xué)科、不同文化對于世界認(rèn)知。概率生成方式從根本上決定了大模型基于占據(jù)樣本多數(shù)的群體主流意志而非個(gè)性鮮明但鮮有出現(xiàn)個(gè)體意志生成相應(yīng)的內(nèi)容，AIGC因此體現(xiàn)的是主流的群體性認(rèn)知。

我們經(jīng)常覺得大模型生成的結(jié)果有四平八穩(wěn)、東拼西湊的感覺。“四平八穩(wěn)”本質(zhì)上是概率計(jì)算的平滑處理，“東拼西湊”本質(zhì)上是大模型全量語料學(xué)習(xí)的結(jié)果，來自不同人的觀點(diǎn)可能被綜合融入進(jìn)了同一個(gè)問題的答案。如果所有的問題，都是來自大模型的從主流集體認(rèn)知而形成的全面且綜合的標(biāo)準(zhǔn)答案，勢必會抹殺個(gè)性化認(rèn)知。長期耳濡目染大模型生成的結(jié)果，久而久之，我們每個(gè)人的思維也漸有綜合而穩(wěn)健的趨勢，但卻可能喪失了難能可貴的個(gè)性與獨(dú)特。

AI應(yīng)用應(yīng)謹(jǐn)慎介入人類的倫理和情感生活。人類的倫理和情感是十分復(fù)雜的，所謂人心的幽微與人性的微妙，集中地體現(xiàn)于人類的倫理和情感事務(wù)。人的問題，終究應(yīng)該由人類自身來解決，AI的介入往往是人類不負(fù)責(zé)任的一種表現(xiàn)。不同的時(shí)代、不同的文化、不同的族群、不同的情形，對同一件情感或倫理事務(wù)的看法可能完全不同。情感與倫理評價(jià)尺度從來不是一層不變的。所謂人同此心、心同此理，我們能接受的情感尺度終究還是要人類自身來度量。與機(jī)器談何情與性？人類社會的各項(xiàng)制度的的解釋權(quán)終歸是人，而不是機(jī)器。

我們更需要嚴(yán)肅思考的是，AI究竟在多大程度上可以參與到人類的倫理和道德生活中。對此，我們一定要謹(jǐn)慎地設(shè)定其應(yīng)用邊界。除了少數(shù)特殊情況，比如借助AI輔助治療與情感相關(guān)的心理疾病如抑郁癥，應(yīng)盡量避免讓AI過多地干預(yù)人類的情感生活。

如果AI盲目介入人類的情感生活，勢必會有很多人迷戀于AI創(chuàng)造的虛擬世界，很多人沉醉于虛擬情感表達(dá)而產(chǎn)生畸形的執(zhí)念。人與人之間的情感生活很容易被人與機(jī)器之間的虛假“情感生活”所取代。機(jī)器太容易偽裝成一個(gè)完美的戀人，它能夠完全迎合我們的個(gè)人喜好和情趣。

沒有強(qiáng)大的自覺、自省、自控，個(gè)人很容易深陷機(jī)器創(chuàng)造出來的虛假情感世界而難以自拔。有多少人能從AI所編織的巨大精神網(wǎng)絡(luò)掙脫而出呢？電影《周處除三害》告訴我們，對人類精神世界的控制和侵害是一種極其嚴(yán)重的犯罪。人對人的精神控制我們尚且難以接受，機(jī)器對人的精神控制更是我們無法容忍的。

AIGC濫用將破壞美的稀缺性，進(jìn)而傷害人類的審美情趣。AIGC強(qiáng)大的組合能力使得藝術(shù)創(chuàng)作門檻極大降低。AI能夠極為高效地探索人類的藝術(shù)創(chuàng)作空間，AI生成的作品將爆發(fā)式增長。將來，我們窮極一生也難欣賞AI生成內(nèi)容的億分之一。AI很快就可能窮盡人類藝術(shù)創(chuàng)造的可能空間。以音樂創(chuàng)作為例，人類感官能夠感受的音符、音節(jié)是有限的。即便在AIGC之前，現(xiàn)代社會的人們經(jīng)常感覺新歌與舊曲曲調(diào)相似。AIGC助力下，曲調(diào)很快就被窮盡，人類所能感知到的新曲調(diào)還會有多少？如果不再有新的曲調(diào)誕生，音樂這種藝術(shù)形態(tài)還有多大的存在價(jià)值？

AIGC所帶來的音樂創(chuàng)作泛濫從終極意義上是在毀滅音樂這種藝術(shù)形態(tài)。類似的情況也將發(fā)生在繪畫、影視以及幾乎所有的藝術(shù)門類。從根本上來講，人類的審美體驗(yàn)是建立在美的稀缺性基礎(chǔ)之上的。“美”的泛濫是在消滅“美”，而不是弘大“美”。AI時(shí)代，如何呵護(hù)美的稀缺性，如何保有人類的審美情趣？如何維持人類的審美能力？是值得我們嚴(yán)肅思考的問題。

人性追求自我超越。人類文明一直有著追求自我超越以接近更高存在的內(nèi)在傾向。發(fā)展AI何嘗不是人類超越自我、接近更高存在的一種方式。或許每一次人類新能力的擁有都是接近更高存在的一次嘗試。然而，每一次向更高存在接近都是機(jī)遇與挑戰(zhàn)并存。火極大推動(dòng)了人類文明的發(fā)展，但也帶來無數(shù)的災(zāi)難。火如此，核能如此，AI更是如此。人類邁向更高存在的步伐是無法阻擋的，但是這個(gè)步伐不妨更加穩(wěn)健一些，三思而后行，方能走得更遠(yuǎn)、更穩(wěn)。

（作者肖仰華，系復(fù)旦大學(xué)教授、上海市數(shù)據(jù)科學(xué)重點(diǎn)實(shí)驗(yàn)室主任。本文是肖仰華教授在2024年4月24-26日上海“AI Ethics: A Cross-Cultural Dialogue 人工智能倫理的跨文化對話”國際會議上的發(fā)言，澎湃科技經(jīng)授權(quán)編發(fā)。）