傳播學 | 算法陷阱

概念和理論淵源

算法陷阱，簡而言之，是指算法在廣泛應用過程中，表面上看似促進了社會進步和提升了生活品質(zhì)，實則形成了一種隱形力量，主導社會經(jīng)濟發(fā)展和人們生產(chǎn)生活，從而破壞市場經(jīng)濟運行機制、傷害消費者權益并削弱政府社會治理能力的現(xiàn)象。這一概念由朱巧玲和楊劍剛在《算法陷阱與規(guī)制跨越》一文中明確提出，并詳細闡述了其形成機制、本質(zhì)特征及主要危害。

算法陷阱的研究歷史可追溯至數(shù)字經(jīng)濟興起之初，隨著算法技術在社會經(jīng)濟生活中的廣泛應用，其潛在的問題和負面影響逐漸顯現(xiàn)，引發(fā)了學術界和實務界的廣泛關注。早期的研究主要集中在算法對市場競爭的影響上，例如Ezrachi和Stucke在2015年首次提出了“算法共謀”的概念，指出算法可以在沒有人為干預的情況下，通過協(xié)議或協(xié)調(diào)價格行為來限制市場競爭，形成共謀行為。這一研究為理解算法陷阱提供了重要的理論基礎。

隨后，學者們開始深入探討算法陷阱的形成機制、本質(zhì)特征及其危害。算法黑箱、理性僭越、監(jiān)管失效和資本擴張等概念相繼被提出，用以解釋算法陷阱為何會形成并難以根除。

算法陷阱的特征

算法陷阱具有以下幾個顯著特征：

①隱蔽性

算法陷阱的最大特點在于其隱蔽性。算法猶如一個不透明的“黑箱”，其內(nèi)部的運算過程、決策機制以及目標意圖都無從知曉。用戶只能通過輸入數(shù)據(jù)和得出結論來觀察結果，無法對算法進行評判和監(jiān)督。這種隱蔽性使得算法陷阱問題往往被忽視，直到造成嚴重后果時才被發(fā)現(xiàn)。

②技術門檻高

算法陷阱的形成還與其較高的技術門檻密切相關。算法的設計和運行涉及復雜的數(shù)學模型和編程技術，普通用戶難以理解和掌握。這種技術門檻導致算法的使用方式、使用范圍、使用目的容易存在模糊地帶，增加了算法濫用和誤用的風險。

③監(jiān)管失效

算法陷阱的另一個顯著特征是監(jiān)管失效。目前，大部分國家或區(qū)域組織對于算法監(jiān)管尚未達成一致性意見，監(jiān)管措施尚待完善。同時，由于互聯(lián)網(wǎng)巨頭業(yè)務遍及全球，客觀上增加了算法監(jiān)管的難度。監(jiān)管失效使得算法陷阱問題得不到及時有效的解決，進一步加劇了其危害。

④資本沖動

算法陷阱的形成還與平臺擴張的資本沖動密切相關。在利益最大化的驅動下，平臺通過算法競爭來擴大市場份額和鞏固地位。然而，這種無序擴張往往導致算法的失控和濫用，進而形成算法陷阱。資本沖動使得平臺在追求利益的過程中忽視了算法的社會影響和潛在風險。

算法陷阱形成的機制

算法陷阱的形成機制是一個復雜而多維的過程，涉及技術、經(jīng)濟、法律和社會等多個層面。朱巧玲和楊劍剛認為其形成主要是算法黑箱、理性僭越、監(jiān)管失效和資本擴張四個方面。

首先，算法黑箱是算法陷阱形成的重要技術基礎。

算法的設計和運行過程往往不透明，用戶只能看到輸入和輸出結果，而無法了解算法內(nèi)部的運算邏輯和決策機制。這種不透明性使得算法的責任歸屬、目標意圖等信息難以被外界知曉和評判，為算法濫用和誤用提供了空間。算法黑箱的存在，使得算法的設計者和使用者能夠利用其隱蔽性進行不正當操作，而用戶和監(jiān)管機構則難以進行有效監(jiān)督和制約。

其次，理性僭越是算法陷阱形成的認知基礎。

隨著算法技術的不斷發(fā)展，算法逐漸具備了自主學習和決策的能力，甚至在某些領域超越了人類理性。這種“算法理性”的崛起，使得人類在經(jīng)濟決策中的主導地位逐漸被算法所取代。算法理性僭越人類理性的過程，實質(zhì)上是數(shù)據(jù)驅動社會經(jīng)濟發(fā)展的必然結果，但同時也帶來了人從經(jīng)濟決策主導者蛻變?yōu)樗惴ǜ接拐叩娘L險。

再次，監(jiān)管失效是算法陷阱形成的制度基礎。

目前，全球范圍內(nèi)對算法的監(jiān)管尚未形成統(tǒng)一的標準和有效的機制。一方面，監(jiān)管機構擔心嚴格的監(jiān)管會阻礙科技創(chuàng)新和經(jīng)濟發(fā)展；另一方面，算法監(jiān)管屬于新興領域，相關措施尚待完善。此外，互聯(lián)網(wǎng)巨頭的跨國經(jīng)營也增加了算法監(jiān)管的難度。監(jiān)管失效使得算法陷阱問題得不到及時有效的解決，進一步加劇了其危害。

最后，資本擴張是算法陷阱形成的經(jīng)濟基礎。

在數(shù)字經(jīng)濟時代，互聯(lián)網(wǎng)平臺之間的競爭日益激烈，算法成為平臺競爭的核心要素。平臺資本出于擴張的本性，不斷推動算法的迭代和演進，以獲取更大的市場份額和競爭優(yōu)勢。然而，這種無序擴張往往導致算法的失控和濫用，進而形成算法陷阱。資本擴張不僅加劇了市場競爭的激烈程度，還為算法陷阱的形成提供了經(jīng)濟動力。

新聞與傳播

微信號 : media-power

網(wǎng)站：media-learning.com

▇ 新傳考研智庫 洞察社會脈動