單次量子機器學習 Single-shot quantum machine learning

Single-shot quantum machine learning

單次量子機器學習

https://refubium.fu-berlin.de/bitstream/handle/fub188/47851/PhysRevA.111.042420.pdf;jsessionid=776062AB188475D7F0CBB3DA1EB3A425?sequence=1

量子機器學習旨在通過使用量子計算機來改進學習方法。如果要實現其潛力，需要克服許多障礙。一個特別緊迫的問題出現在預測階段，因為量子學習模型的輸出本質上是隨機的。這造成了通常相當大的開銷，因為需要聚合多次執行量子學習模型的結果才能獲得實際預測。在這項工作中，我們分析了量子學習模型何時能夠規避這個問題并以近乎確定性的方式產生預測——為單次量子機器學習鋪平道路。我們對量子分類器中的單次性給出了嚴格的定義，并表明量子學習模型接近確定性的程度受到模型中使用的嵌入量子態的可區分性的約束。打開嵌入的黑匣子，我們表明如果嵌入是通過量子電路實現的，那么單次性成為可能需要一定的深度。我們最后表明，量子學習模型不能以通用方式實現單次性，并且同時可訓練。

I. 引言

機器學習是一個迅速發展的領域，其快速進步經常推翻關于經典計算機能學和不能學什么的假設。這一持續的成功故事激發了人們對量子機器學習的興趣，這是與量子計算的交叉領域，后者最近也取得了巨大的技術進步。研究量子計算機是否可以用來構建某種超越經典同行的學習模型，已經成為量子機器學習的主要研究方向之一。

雖然這些模型的內在量子特性至少在理論上有潛力突破經典可能性的界限[1-4]，但它也帶來了固有的缺點。之前在這方面的研究主要集中在訓練階段，其中如貧瘠高原[5]等問題使量子學習模型的優化變得復雜。然而，在推理階段也會出現一些問題，即當量子學習模型需要產生預測時。一個名副其實的量子學習模型需要對量子系統進行某種操作。然而，為了提取經典標簽，需要進行測量。量子力學的本質決定了這種測量的結果本質上是概率性的。為了讓模型解決學習問題，例如正確分類圖像，輸出需要是確定性的。在實踐中，量子學習模型需要運行很多次以規避測量的概率性結果并提取預測，例如以適當選擇的可觀測量的期望值形式。即使在容錯量子計算機上運行模型，這個問題，即所謂的測量問題的一個實例，仍然存在。

量子力學的非確定性意味著量子學習模型通常伴隨著經典學習模型中不存在的開銷。這在很大程度上限制了它們的吸引力，特別是因為這不僅增加了產生預測所需的時間，還增加了成本。考慮到完整的量子機器學習流程，能夠減少給定量子模型的測量開銷將降低各個階段的成本。在非重復設置中，這也可能很有用，例如當產生量子態并需要一次性分類時，例如在從光的散射態檢測物體時。

在這項工作中，我們研究是否可以規避這一特定限制，特別是在什么條件下可以從量子學習模型的單次運行中提取預測（見圖1）。我們建立了這種單次模型的嚴格定義，并使用量子假設檢驗工具來理解它們的最終限制。如果量子分類器是使用量子電路構建的，我們確定只有當電路具有一定深度時，單次性才有可能。我們處理了無噪聲和有噪聲的情況。我們通過確定表現出單次性質的學習模型通常是過度表達的，因此難以訓練，來補充我們的結果。

為了理解量子學習模型的全部潛力，已經投入了研究其潛力和限制的努力。量子學習模型，特別是量子分類器，可以通過多假設檢驗的視角進行分析，這在參考文獻[6-12]中已經得到了利用。參考文獻[11]指出，表達能力和泛化性能之間存在權衡。通過訓練減少可觀測量的方差來減少量子學習模型的測量開銷已經嘗試過[13]。量子電路的連續性屬性也在參考文獻[14]中進行了研究。

本文的結構如下：我們首先介紹量子分類器（第二節）和量子多假設檢驗（第三節）。我們接著在第四節引入單次量子學習模型的概念。在隨后的第五節中，我們使用描述的概念和工具提出界限，確立淺層模型不能具有單次性質。最后，在第六節中，我們展示了實現通用單次性質的量子學習模型難以學習。我們在第七節中總結本文。

II. 量子分類器

當使用可觀測量的期望值來確定標簽時，這也在隱含地發生，因為通常需要多次運行量子實驗來忠實地近似期望值。

III. 量子多假設檢驗

在貝葉斯和極小極大設置中，最優測量可以通過半定規劃（SDP）[16]來計算。假設檢驗的有用性源于我們對多假設檢驗誤差有良好的下界。在二元假設檢驗的情況下，，我們甚至有一個封閉形式的解。赫爾斯特羅姆-霍列沃定理[17]將二元假設檢驗的最小誤差與量子態的跡距離聯系起來。

證明見附錄A。在極小極大設置中的相應結果是直接的，因為當考慮較少替代方案的假設檢驗時，最壞情況下的誤差只會改善，因此

結合上述結果和Holevo-Helstrom定理，我們得到了多假設檢驗問題誤差的下界，該下界以量子態的成對距離表示。我們注意到這些下界不一定是最緊的。但它們允許我們稍后將單次量子學習模型的限制與基于量子態跡距離的可解釋量聯系起來。

量子分類器的多假設檢驗簡化

如果我們將上述內容與方程(2)進行比較，我們可以看到量子分類器等同于每個類別的平均狀態的量子多假設檢驗問題。因此，我們可以得出結論，量子分類器的誤差至少是最優可實現誤差。

不同類別的嵌入狀態必須能夠很好地區分開來以實現合理的準確性——這也可以通過其他損失函數來衡量——這一事實已經在之前的工作中觀察到[6,8,11]。

IV. 單次量子機器學習

我們必須多次運行量子分類器的事實，如第二節所解釋的，導致了所謂的測量問題，這意味著與經典方法相比，由于量子力學的概率性質，存在額外的開銷。本工作的目的是通過強制分類器對分配的標簽非常確定，以至于只需運行一次就足夠了，即我們稱之為“單次”分類器，來正式化何時可以規避這個問題。

A. 單次分類器

其中概率是取自分類器固有的隨機性。

B.Geometric picture

然而，即使是連續參數化的分類器也可以在數據域的子集上認識論上是單次的，如果我們看到的點很可能來自該域，我們仍然可以有相當好的貝葉斯單次性能。正是這種思想通過以下引理形式化，這只是一個簡單的聯合界限的應用。

C. 與樣本復雜度的關系

我們可以將概率分類器的單次性概念與我們在處理量子機器學習模型中的測量問題時通常遇到的樣本復雜度概念聯系起來（另見參考文獻[12]）。這可以通過考慮使用相同的“弱”分類器進行m次重復，然后進行多數投票的過程可以被視為一個單一模型，該模型應具有單次性，這相當于低失敗概率。數學上，我們有以下關于提升弱分類器成功概率的引理，即具有單次性但失敗概率高的分類器。

我們本可以使用來自切爾諾夫-霍夫丁定理的更緊密估計，該定理涉及獨立同分布的伯努利隨機變量之和，但這些改進對于我們的論證并非必要。如果我們選擇 β 為
的最大值和次最大值之間的一半差距，我們可以保證多數投票的成功結果。形式上，我們可以將差距定義為：

V. 單次量子機器學習的最終極限

在定義了單次性屬性之后，自然會問是否可以為給定的嵌入實現它，反之，實現允許單次分類的嵌入需要什么資源。本節致力于通過將單次分類任務簡化為多假設檢驗任務，來探索單次量子分類器的最終極限。在建立上述簡化之后，我們打開嵌入的黑匣子，并建立量子電路需要建立單次性屬性的門復雜度的下界。

A. 簡化為假設檢驗

在第三節中，我們已經看到量子分類器的誤差概率可以通過簡化為多假設檢驗來下界。我們可以采用類似的論點來界定單次誤差概率 δ 的最佳值。微妙的區別在于我們不再關心根據真實標簽來很好地分類數據，因為它們沒有出現在單次性定義中。相反，我們希望分類器根據分類器本身分配的標簽工作，即方程(1)中的。在這種視角變化之后，論點可以類似地進行:

我們注意到，理論上，我們可以通過在每個標簽中包含多個狀態來進一步改進上述認識論單次誤差概率的下界，這將導致簡化為復合多假設檢驗問題。這些問題研究較少，可用的分析工具也較少。然而，對于數值研究，這與半定規劃結合是實現更緊密界限的適當方法。

我們現在使用第三節中介紹的工具，將單次量子分類的最終極限與更直觀的量聯系起來。我們將第三節的二元情況簡化與方程(4)中的Holevo-Helstrom定理應用于第五節A中的貝葉斯誤差概率下界。這給出了以下誤差概率的下界，以不同類別的平均狀態的跡距離表示：

從這一點來看，我們可以得出結論：不可知單次性（agnostic single shotness）對分類器預測的不同類別嵌入狀態之間的距離提出了很高的要求，因為我們可以將上述不等式反過來得到：

從這個界限來看，任何隨 x 連續變化的嵌入 都無法在整個 x 的值域上實現不可知單次性。這再次強調了不可知單次性的定義需要限制 x 的定義域 X，正如我們在第IV A節中從不可知到貝葉斯的提升中所使用的那樣。

在建立了不可知和貝葉斯設置中單次錯誤概率與嵌入狀態的跡距離之間的聯系之后，我們打開了嵌入的黑箱，并考慮它是由變分量子電路實現的。在這種情況下，施加一定的單次錯誤概率需要電路具有一定的深度和/或寬度，如下所示。

B. 無噪聲量子電路

第V B節向我們展示了參數化電路將接近的數據點嵌入到也接近的量子態中。直觀上，我們可以推斷出，對于兩個接近但屬于不同標簽的數據點，量子分類器將面臨困難。我們在以下定理中對此進行了形式化：

定理3. 單次性錯誤概率的下界（貝葉斯）。設是一個量子分類器，其任務是對我們已知其概率分布的 r 組經典數據進行分類。單次性錯誤概率被兩個數據類之間最差的平均距離所限制，

在此需要強調的是，即使上述定理的條件允許某種單次性錯誤概率，這并不一定意味著（通常也不期望）電路實際上達到了這種單次性錯誤概率。

C. 有噪聲的電路

現實的電路遠非完美。在NISQ（Noisy Intermediate-Scale Quantum）時代，它們受到限制其性能的普遍噪聲的影響。為了研究噪聲對量子分類器單次性的影響，我們研究了一個錯誤模型，其中具有存活概率 p 的局部去極化噪聲
在對每個量子比特進行分類器計算的每一步之后應用，其中 ω 是在每一步計算之后應用的最大混合態。為了在數學上跟蹤這一點，我們將使用符號來表示在 t 步計算之后由有噪聲的嵌入電路產生的量子態。在我們的嵌入電路模型中，我們到目前為止已經計算了層數 L，其中每一層由我們假設需要一步計算和固定酉變換以及變分量子門組成，我們假設需要 ? 步計算，從而在我們的參數化電路中總共需要步計算。

受局部去極化噪聲影響的量子電路最終將產生一個非常接近最大混合態 ω 的量子態。這一結果是通過計算 t 步計算后電路狀態之間的相對熵的衰減而建立的，并得出以下估計[19]：

然而，這個估計沒有考慮到電路的連續性，因此對于接近的參數，它實際上可能過于樂觀。由于有噪聲的信道不能增加狀態之間的跡距離，我們立即可以看到，如果考慮有噪聲的電路，第V B節的結果仍然有效，盡管它也會過于樂觀，因為它沒有考慮系統中的噪聲。一個簡單的結合這兩個估計的方法就是簡單地取兩者中的最小值，這給出了：

與僅噪聲估計相反，上述界限并不隨著衰減至零，這意味著它只能在有限的參數區域內改善方程(66)的估計。 然而，它確實總是能改善由方程(57)給出的簡單連續性估計。圖3展示了三種不同界限的比較。 現在，我們可以以類似于第V B節的方式重新連接到單次分類的設置。推導可以類似地進行；只是常數 L 被替換為：

結合我們為有噪聲情況推導出的所有三個界限，為我們提供了量子分類器預測的每個多數類嵌入平均狀態之間可實現距離的上界，因此，允許我們分析有噪聲量子分類器進行單次分類的可能性。

VI. 通用準確的單次模型難以學習

在建立了單次量子機器學習的理論基礎之后，我們了解到單次性是訓練模型的一個屬性，這不一定是給定的。它依賴于量子學習模型將經典數據嵌入量子態的具體方式，并且只有當相同預測標簽的量子態聚集在一起時——換句話說，它們與不同預測標簽的量子態不太接近時，才會顯現出來。

從這種直覺中，我們可以看到，理論上應該可以構建一個嵌入，使得對于數據集的所有可能標記都能實現單次分類。在機器學習語言中，這意味著模型足夠表達能力強，可以粉碎數據。這是通過將所有足夠分離的輸入嵌入到希爾伯特空間的相互正交方向來實現的。人們期望，例如，我們可以通過使用大量編碼門與深層隨機酉門交替來構建這樣的嵌入。然而，很明顯，這樣的嵌入將導致任何從訓練數據中推斷出的POVM的泛化性能不佳。以前未見過的的數據點將被嵌入到希爾伯特空間中嵌入訓練數據的正交補空間中。在那里，我們無法推斷出一個好的分類，最好的策略將是隨機猜測。

這個“思想實驗”突出了（量子）學習模型的一個固有問題，即表達能力、可訓練性和泛化性能之間存在微妙的權衡，這是量子機器學習中正在進行的研究的主題[11,20-22]。在本節中，我們將展示這種權衡也影響學習模型的單次屬性。

這并不限制我們論點的普遍性，因為非常接近的數據點將代表相同的輸入。一個例子是圖像：可以被認為是合理不同的圖像也必須具有合理不同的像素值。直觀上，我們期望一個通用準確的單次模型應該將所有至少被 ξ 分隔的點映射到希爾伯特空間中的（大約）正交方向。

為了研究這類特定模型，我們依賴于參考文獻[6]的結果。在那里，作者研究了本質上相似的問題，即從以下形式的示例中學習一個POVM效應：

為了在D維希爾伯特空間中以精度 ? 學習一個POVM效應所需的樣本數量。我們在這里提出的論點并不依賴于近似的概念和精度，而是依賴于維度的依賴性。然而，以算子范數對POVM效應的 ?-近似立即保證了通過矩陣H?lder不等式，實現的二元分類器的精度在加性誤差內接近目標。

我們剩下要分析的是我們要考慮的希爾伯特空間的維度。為此，我們回到我們的假設，即在某種范數下相距 ξ 的輸入應該被映射到希爾伯特空間的不同角落。這意味著我們有D大約是我們選擇的范數中需要覆蓋輸入空間X的球的數量。如果空間具有某種特征長度L和維度d，我們預計需要：

維度，這在輸入大小方面是低效的，正如我們從思想實驗中所預期的那樣。這也與參考文獻[11]的結論一致，該結論表明，表達能力過強的模型泛化性能較差。

VII. 結論

如果量子機器學習要變得有用，必須克服許多障礙。其中之一就是直接源于量子力學概率性質的測量問題。量子學習模型的預測本質上是隨機的，因此，必須聚合多次執行量子學習模型的結果才能獲得實際的預測。

在這項工作中，我們提出了單次量子機器學習的概念。我們建立了一個嚴格的量子分類器定義，即在何種情況下可以通過幾乎確定性地提供標簽來繞過測量問題。利用量子分類器和量子多假設檢驗之間的密切聯系，我們確立了量子分類器的單次性基本上受到嵌入量子態可區分性的約束。考慮到嵌入通常由量子電路實現，我們還展示了實現單次分類器需要這些電路的一定深度。

最后，我們還確立了一個學習模型不能以通用方式實現單次性，即對所有可能的輸入標記。在這種情況下，它會變得過于表達性強，這樣的模型將沒有有意義的泛化方式。

這項工作只能被視為我們克服測量問題的開始。它邀請未來在許多方向上進行研究。首先，我們只考慮了這項工作中的分類任務。對回歸的推廣肯定也是可能的，并且可以用量子計量學簡化而不是多假設檢驗來表達類似的基本界限[23]。

除了擴展單次量子機器學習的定義和基本處理之外，一個緊迫的問題是理解我們如何構建單次模型？我們如何在訓練過程中強制執行這種屬性以獲得準確性和單次性？在這個方向上可能的靈感是考慮與嵌入量子態的可區分性直接相關的訓練方式[8]。我們是否也可以找到學習模型或嵌入電路的明確構造，以強制執行一定程度的單次性？

https://refubium.fu-berlin.de/bitstream/handle/fub188/47851/PhysRevA.111.042420.pdf;jsessionid=776062AB188475D7F0CBB3DA1EB3A425?sequence=1