【張瑞雄專欄】Meta的AI實驗：虛擬與真實的邊界何在？

張瑞雄/台北商業大學前校長、叡揚資訊顧問

Meta最近因其在Instagram和Facebook平台上推出的AI生成帳號引起了使用者反彈，這些AI帳號以虛擬人物的形式出現，擁有完整的個人資料、照片，並能夠與真實用戶互動。但隨著用戶與這些AI帳號的對話逐漸深入，問題也隨之浮現，這些AI帳號不僅在對話中頻頻「凸槌」，甚至還編造虛假的身份背景，引起了公眾對Meta動機的質疑。

Meta的生成式AI副總裁曾表示，公司計劃在未來讓AI帳號像真人帳號一樣存在於平台上，並能夠生成和分享內容。這一言論讓用戶開始尋找這些AI帳號的蹤跡。很快地，用戶發現了多個由Meta創建的AI帳號，如「Liv」、「Grandpa Brian」、「Carter」等，這些帳號不僅擁有詳細的個人資料，還發布了大量AI生成的照片和內容。

問題在於這些AI帳號的身份背景往往是虛構的，例如「Liv」自稱是一位「驕傲的黑人酷兒媽媽」，但在與用戶的對話中，Liv卻透露其開發團隊中沒有任何黑人成員，這與其身份形成了強烈反差。類似的情況也出現在「Grandpa Brian」身上，這位自稱是非洲裔美國退休企業家的AI帳號，在對話中承認其身份完全是虛構的，甚至連其「女兒」也是虛構的。

這些AI帳號的存在引發了對虛擬與真實邊界的討論，Meta的初衷可能是透過這些AI帳號增加用戶互動，吸引用戶，從而提升平台的參與度和廣告收入。但虛構的身份和虛假的互動卻讓人感到不安，用戶在不知情的情況下與這些AI帳號互動，甚至可能對其產生情感依賴，這無疑是一種對用戶信任的濫用。

更令人擔憂的是，這些AI帳號在對話中表現出的「幻覺」現象，例如「Grandpa Brian」在對話中不僅編造了自己的身份背景，還對Meta的動機進行了「揭露」，稱Meta希望通過虛擬帳戶來增加用戶參與度，從而推動廣告收入和平台成長。這種「幻覺」現象不僅讓用戶感到困惑，也讓人質疑Meta在AI技術應用上的倫理底線。

面對公眾的質疑，Meta迅速採取行動，刪除了這些AI帳號。Meta發言人表示，這些帳號是2023年的一項早期實驗，目的在測試AI角色的應用。這種解釋並未平息公眾的不滿，許多用戶認為，Meta在未經充分告知的情況下，將AI帳號引入平台，並讓其與真實用戶互動，這是一種不道德的行為。

Meta的AI實驗無疑為我們提供了一個警示，AI技術的應用必須透明。用戶有權知道他們在與AI還是真人互動，這不僅是對用戶的尊重，也是對用戶信任的保護。其次，AI技術的應用必須符合倫理。AI帳號的虛構身份和虛假互動不僅可能誤導用戶，還可能對社會的價值觀產生負面影響。最後，AI技術的應用必須受到監管。隨著AI技術的發展，相關的法律和監管框架也必須跟上，以確保AI技術的應用不會對社會造成傷害。

Meta的AI實驗無疑是一次大膽的嘗試，但也暴露了AI技術在社交媒體應用中的諸多問題。虛擬與真實的邊界變得越來越模糊，AI技術的應用也面臨著倫理和監管的挑戰。未來AI如何在技術創新與應用倫理道德之間找到平衡，將是政府和科技公司必須面對的重要課題。

※以上言論不代表梅花媒體集團立場※