警惕AI的脆弱性

剛 結束 了 一場 A I 碰撞局 ， 說 幾點 感想 ， 細節 有 利害 牽涉 暫時 不說 了 ：

1.合規的成本越高，越會滋生對AI的需求

這點提到的人不多，但近來卻反復聽到。

舉個例子，比如某個錄取考試，如果是人負責操作，那崗位越關鍵，來想做額外操作的人越多，而負責運營的人未必愿意承擔這個風險。

這時候最簡單的規避風險的方法是什么呢？

使用AI。

類似的，如果對于銷售費用、營銷費用等管理有十分嚴格的要求，那在人的世界中可能是不可能達到的，最好的辦法是什么呢？

顯然也是把對應的業務AI化。

這背后彰顯的是系統的復雜度超過某個閾值后，AI的需求會直線上升。

反過來這可能是AI嵌入生產過程，成為關鍵生產要素的必經之路。

2.警惕AI的脆弱性

AI因為什么都能干，免不了會被當成萬能靈藥。但其實當前的AI有著明顯的限制：

它在數據成本過高、或者精度要求過高的場景真正產生作用所需要的成本可能過高。（而數據成本看起來和業務牽涉主體的數目成正比）

簡單說就是你的投入產出是不劃算的。

所以現在真用AI追求的并非是全面（雖然AGI給人帶來這種幻覺），而是要在特定的切口下把事做深。深特指超過人的水平（）

大模型是要追求全面提升的，但那是做大模型那波人的任務。

并且即使是大模型在不同的領域表現也是有差異的。

換句話說：AI的應用能夠發揮出自己的強大性是有前提的，這種前提反倒是應用的價值所在。

如果某個工作比如編程發揮作用沒有前提，或者前提是統一的，那
模型公司自己就做了，會把它變成模型的一部分。

AI無疑是強大的，并且會越來越強大，但是：

所有希望把AI變成生產力的人需要警惕AI的脆弱性。

避免投入過大或者過久沒有產出。

大晚上的不寫太多，順道做兩個發布：

（一） 6.26歡迎到合肥小聚，對AI應用往縱深發展會碰到的問題感興趣的同學比較適合。

（二） 6.30北大縱橫辦公樓四層歡迎來參加《作者面對面》的活動

時間:6月30日13:30

地點：北大縱橫辦公樓

推薦人沈俊霞老師，柴金龍導演，北大縱橫創始人王璞先生，陳保辰秘書長，多位作家學者教授媒體人，誠邀您蒞臨現場。

感興趣同學聯系:shuixiu2024吧