国产成人超清在线视频,国产高清永久免费,国产最新超碰97上传无码,超碰国产人人草人人爽

近日，華裔教授姜煒文再獲量子計(jì)算革命性突破，在QuantumWeek上開(kāi)源了首個(gè)量子神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)棧，加速了神經(jīng)網(wǎng)絡(luò)在量子計(jì)算機(jī)上的發(fā)展。

神經(jīng)網(wǎng)絡(luò)是當(dāng)下計(jì)算應(yīng)用中發(fā)展最快，使用最廣的機(jī)器學(xué)習(xí)算法。然而，隨著應(yīng)用不斷復(fù)雜化導(dǎo)致網(wǎng)絡(luò)結(jié)構(gòu)不斷擴(kuò)大，存儲(chǔ)性能瓶頸已逐漸凸顯。

在傳統(tǒng)計(jì)算平臺(tái)上，N個(gè)數(shù)字比特只能表示1個(gè)N位數(shù)據(jù)，然而在量子計(jì)算中，M個(gè)量子比特卻同時(shí)能表示2^M個(gè)數(shù)據(jù)，并能同時(shí)操作這些數(shù)據(jù)。

量子計(jì)算機(jī)如此強(qiáng)大的存儲(chǔ)與計(jì)算能力，使其擁有巨大潛能打破神經(jīng)網(wǎng)絡(luò)在傳統(tǒng)計(jì)算平臺(tái)上的性能瓶頸，獲取量子優(yōu)勢(shì)。

量子神經(jīng)網(wǎng)絡(luò)是根據(jù)量子計(jì)算機(jī)的特性設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)。具體而言，研究者們根據(jù)量子計(jì)算機(jī)所提供的基本計(jì)算單元（即量子邏輯門(mén)）進(jìn)行量子線路設(shè)計(jì)，以實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的計(jì)算。

今年1月，美國(guó)喬治梅森大學(xué)姜煒文教授在《自然通訊》期刊，提出了是第一個(gè)神經(jīng)網(wǎng)絡(luò)/量子計(jì)算協(xié)同設(shè)計(jì)框架QuantumFlow。這也是其一年內(nèi)，繼兩篇《自然電子》后的第三篇Nature子刊。

https://www.nature.com/articles/s41467-020-20729-5

該框架第一次展示了通過(guò)協(xié)同優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與量子線路設(shè)計(jì)，可以較傳統(tǒng)計(jì)算機(jī)獲得指數(shù)級(jí)加速。

圖1 基于QuatnumFlow量子神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)棧

基于QuantumFlow，由姜教授帶領(lǐng)的JQub團(tuán)隊(duì)在今年10月舉行的QuantumWeek’21和ESWEEK’21中，開(kāi)源了QuantumFlow的量子神經(jīng)網(wǎng)絡(luò)編程框架，QFNN。

并在即將召開(kāi)ICCAD’21，添加了兩個(gè)新成員：

（1）第一個(gè)對(duì)噪聲感知的量子神經(jīng)網(wǎng)絡(luò)訓(xùn)練器QF-RobustNN；

（2）基于不同量子神經(jīng)元設(shè)計(jì)的量子神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)器QF-Mixer。

至此，第一個(gè)開(kāi)源量子神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)棧橫空出世，為量子神經(jīng)網(wǎng)絡(luò)應(yīng)用提供了堅(jiān)實(shí)基礎(chǔ)。

QFNN

在剛剛結(jié)束的QuantumWeek會(huì)議上，JQub團(tuán)隊(duì)開(kāi)源了由胡芷瑞研究員主要參與設(shè)計(jì)的量子神經(jīng)網(wǎng)絡(luò)（Quantum Neural Network）編程框架，QFNN。

https://github.com/JQub/qfnn

QFNN以Pytorch和IBM Qiskit為基礎(chǔ)，為實(shí)現(xiàn)了神經(jīng)網(wǎng)絡(luò)在量子電路進(jìn)行訓(xùn)練和推理提供了基礎(chǔ)函數(shù)。研究人員可以通過(guò)簡(jiǎn)單調(diào)用少數(shù)函數(shù)，便可以輕松構(gòu)建可以在IBM量子計(jì)算機(jī)上進(jìn)行部署的針對(duì)神經(jīng)網(wǎng)絡(luò)推理的量子電路。

QFNN不僅支持QuantumFlow的所有功能，同時(shí)也支持其它量子神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)，包括Variational Quantum Circuits（VQC）。

除此之外，QFNN還提供了量子神經(jīng)網(wǎng)絡(luò)電路相對(duì)應(yīng)的經(jīng)典計(jì)算模擬，可以用于驗(yàn)證量子神經(jīng)網(wǎng)絡(luò)的正確性以及輔助量子計(jì)算機(jī)進(jìn)行模型訓(xùn)練。

圖2 QuantumFlow協(xié)同設(shè)計(jì)框架

在對(duì)QuantumFlow的支持上，QFNN采用與QuantumFlow中的結(jié)構(gòu)相同。如圖2所示，該框架分為四個(gè)模塊，包括qf_circ，qf_net，qf_fb和qf_map。

目前QFNN支持QuantumFlow中的所有模塊，并在QF-Net中，加入了對(duì)VQC等量子電路的支持。

利用QFNN，研究者可以快速搭建量子機(jī)器學(xué)習(xí)電路，在經(jīng)典計(jì)算機(jī)上對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，在量子平臺(tái)上進(jìn)行推理。

同時(shí)，QFNN還支持量子網(wǎng)絡(luò)結(jié)構(gòu)的探索，即QF-Mixer。QFNN在github上進(jìn)行開(kāi)源，并歡迎有興趣者共同開(kāi)發(fā)，加入更多的基礎(chǔ)量子神經(jīng)元實(shí)現(xiàn)與量子神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)。

QF-RubostNN

在即將于11月1日召開(kāi)的ICCAD會(huì)議上，JQub團(tuán)隊(duì)提出了首個(gè)通過(guò)訓(xùn)練，在量子網(wǎng)絡(luò)中學(xué)習(xí)量子位誤差的研究工作，即QF-RubostNN。

https://arxiv.org/pdf/2109.03430.pdf

該研究由梁之鼎博士生主要參與，提出了一個(gè)通用的訓(xùn)練框架來(lái)進(jìn)行錯(cuò)誤感知學(xué)習(xí)，這個(gè)框架將解決部署神經(jīng)網(wǎng)絡(luò)到近期嘈雜的中級(jí)量子（NISQ）時(shí)期的核心問(wèn)題：如何抵抗噪聲對(duì)神經(jīng)網(wǎng)絡(luò)推理的影響。

雖然量子計(jì)算發(fā)展非常迅速，但是目前量子比特在量子機(jī)器上的錯(cuò)誤率會(huì)達(dá)到10^-2，和經(jīng)典比特在經(jīng)典的CMOS機(jī)器上大約10^-15的錯(cuò)誤率對(duì)比無(wú)疑是個(gè)巨大的差距。

對(duì)此，JQub團(tuán)隊(duì)設(shè)計(jì)了QF-RubostNN做出了第一個(gè)將噪聲學(xué)習(xí)到量子神經(jīng)網(wǎng)絡(luò)的嘗試，展示出了量子神經(jīng)網(wǎng)絡(luò)的容錯(cuò)性：在量子模擬器和IBM量子機(jī)器上分別運(yùn)行了QF-RubostNN，并極大地提升了量子神經(jīng)網(wǎng)絡(luò)的推理精確度。

圖3 QF-RubostNN產(chǎn)生的總體框架簡(jiǎn)圖

QF-RobustNN最上層的訓(xùn)練權(quán)重由量子神經(jīng)網(wǎng)絡(luò)，如QuantumFlow產(chǎn)生。在每次循環(huán)中的訓(xùn)練權(quán)重會(huì)產(chǎn)生對(duì)應(yīng)的量子線路，此時(shí)是在邏輯量子位上的邏輯量子線路，經(jīng)過(guò)設(shè)計(jì)出的特定應(yīng)用的量子映射，邏輯量子位被映射到物理量子位，由此便有了對(duì)應(yīng)的物理量子線路。

再將物理量子線路運(yùn)行在量子機(jī)器或者量子模擬器中，得到模型準(zhǔn)確率的輸出，通過(guò)訓(xùn)練框架找到在這時(shí)候的噪聲下表現(xiàn)最好的訓(xùn)練權(quán)重，最后將搜索到的訓(xùn)練權(quán)重更新到最上層的訓(xùn)練權(quán)重。

這種方法固定初始到結(jié)束的邏輯-物理量子映射的規(guī)律，使錯(cuò)誤可以被預(yù)估，并且也可以有效減少附加門(mén)的數(shù)量，從而降低消耗。

圖4 QF-RobustNN在不同噪聲模型下，對(duì)準(zhǔn)確率的測(cè)量結(jié)果

QF-RobustNN采用在0噪聲環(huán)境（perfect model）下表現(xiàn)最好的訓(xùn)練權(quán)重當(dāng)作實(shí)驗(yàn)的Baseline，通過(guò)改變模型的Error rate（噪聲情況）觀察QF-RobustNN的實(shí)現(xiàn)。

在實(shí)驗(yàn)結(jié)果中可以看到，經(jīng)過(guò)QF-RobustNN的準(zhǔn)確率相較baseline的情況有所提高，而且值得注意的是，隨著錯(cuò)誤率增加，QF-RobustNN對(duì)準(zhǔn)確率的推動(dòng)作用更加明顯，最高達(dá)到了28%的效果。

該實(shí)驗(yàn)展示了量子神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)量子位錯(cuò)誤的可能性，在NISQ時(shí)代的量子機(jī)器，噪聲是極大的問(wèn)題與挑戰(zhàn)。實(shí)驗(yàn)結(jié)果展示了QF-RobustNN的有效性。

QF-Mixer

QF-Mixer 是由汪哲鵬博士生主要參與，是第一個(gè)探索量子神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的文章。

https://arxiv.org/pdf/2109.03806.pdf

伴隨著量子神經(jīng)網(wǎng)絡(luò) 在近年來(lái)的蓬勃發(fā)展，一系列關(guān)于量子神經(jīng)元 （quantum neuron）設(shè)計(jì)的工作開(kāi)始涌現(xiàn)。

這些工作通過(guò)堆疊各自提出的量子神經(jīng)元搭建量子神經(jīng)網(wǎng)絡(luò)，在簡(jiǎn)單的機(jī)器學(xué)習(xí)任務(wù)中 （比如MNIST 2分類(lèi)問(wèn)題）可以取得較高的準(zhǔn)確率。然而，當(dāng)應(yīng)用于更復(fù)雜的機(jī)器學(xué)習(xí)任務(wù)（比如MNIST 10分類(lèi)問(wèn)題）時(shí)，該類(lèi)量子神經(jīng)網(wǎng)絡(luò)的準(zhǔn)確率便會(huì)大打折扣。

基于這樣的現(xiàn)狀，QF-Mixer提出了要混合不同種類(lèi)的現(xiàn)有的量子神經(jīng)元來(lái)構(gòu)建一個(gè)性能更高的異構(gòu)量子神經(jīng)網(wǎng)絡(luò)。

圖5 混合量子神經(jīng)元的挑戰(zhàn)與QF-Mixer設(shè)計(jì)理念

然而，搭建這樣的異構(gòu)量子神經(jīng)網(wǎng)絡(luò)并非易事。

首先，不同的量子神經(jīng)元對(duì)輸入和輸出的量子態(tài) (quantum state) 有著不同的要求，任意地連接兩類(lèi)神經(jīng)元往往無(wú)法達(dá)到這些預(yù)設(shè)的要求。

其次，不同的神經(jīng)元在計(jì)算上也有著不同的特性和邏輯，更高的準(zhǔn)確率未必能通過(guò)混合不同神經(jīng)元達(dá)到。只有找到合適的神經(jīng)元組合，才能起到1+1>2的效果。

針對(duì)第一個(gè)問(wèn)題，QF-Mixer 給出了一套在混合不同神經(jīng)元需要遵循的準(zhǔn)則，這為異構(gòu)量子神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)提供了理論支持。

針對(duì)第二個(gè)問(wèn)題，JQub團(tuán)隊(duì)發(fā)現(xiàn)Quantumflow中的量子神經(jīng)元和變分量子電路 (Variational Quantum Circuit)有著極為互補(bǔ)的特性。

一方面，Quantumflow中的量子神經(jīng)元 (QF-量子神經(jīng)元) 的可學(xué)習(xí)參數(shù)是二值化的，在表達(dá)能力上有著較大的限制。變分量子電路的可學(xué)習(xí)參數(shù)則為任意實(shí)數(shù)。因此，變分量子電路可以為QF-量子神經(jīng)元提供更強(qiáng)的表示能力。

另一方面， 變分量子電路僅是一個(gè)線性分類(lèi)器，QF-量子神經(jīng)元?jiǎng)t可以輕松地搭建起擁有多個(gè)非線性層的量子神經(jīng)網(wǎng)絡(luò)。QF-量子神經(jīng)元可以幫助變分量子電路構(gòu)建出更為復(fù)雜的模型。

基于上述觀察，QF-Mixer提出了QF-MixNN，一個(gè)混合了QF-量子神經(jīng)元和變分量子電路的異構(gòu)神經(jīng)網(wǎng)絡(luò)框架。QF-MixNN在遵循了QF-Mixer提出的混合準(zhǔn)則的同時(shí)，也在不同的數(shù)據(jù)集上展現(xiàn)出了更高的準(zhǔn)確率。

圖6 QF-Mixer在10類(lèi)分類(lèi)問(wèn)題取得高精度

這一點(diǎn)在圖6中的表格中也得以體現(xiàn)?？梢钥吹?，在MNIST數(shù)據(jù)集上，QF-量子神經(jīng)元構(gòu)成的神經(jīng)網(wǎng)絡(luò)和變分量子電路均表現(xiàn)不佳，分別僅有52.77%和69.92%的準(zhǔn)確率。

與此同時(shí), QF-MixNN則有著想當(dāng)亮眼的表現(xiàn)。它在MNIST上取得了超過(guò)90%的準(zhǔn)確率。對(duì)比QF-量子神經(jīng)元構(gòu)成的神經(jīng)網(wǎng)絡(luò)和變分量子電路，準(zhǔn)確率的提升分別為20.7% 和37.85%。

JQub團(tuán)隊(duì)介紹

姜煒文助理教授于2021年加入喬治梅森大學(xué)并建立了量子-經(jīng)典計(jì)算機(jī)輔助設(shè)計(jì)實(shí)驗(yàn)室（JQub）。

該實(shí)驗(yàn)室致力于研究神經(jīng)網(wǎng)絡(luò)和硬件加速器（包括量子計(jì)算機(jī)）的協(xié)同設(shè)計(jì)，在量子神經(jīng)網(wǎng)絡(luò)方向，JQub與圣母大學(xué)史弋宇教授，布法羅大學(xué)熊瑾珺教授，以及新墨西哥大學(xué)楊蕾助理教授合作。

并在《自然通訊》期刊，量子計(jì)算機(jī)周（QuantumWeek），嵌入式系統(tǒng)周（ESWEEK），以及計(jì)算機(jī)設(shè)計(jì)會(huì)議（ICCAD）上發(fā)表多篇文章，并進(jìn)行在線課程輔導(dǎo)（Tutorial）講座。

作者簡(jiǎn)介

項(xiàng)目領(lǐng)導(dǎo)人姜煒文目前是喬治梅森大學(xué)助理教授。他于2019年獲重慶大學(xué)博士學(xué)位；2017年到2019年，曾在匹茲堡大學(xué)電子和計(jì)算機(jī)工程系參與研究工作；2019-2021年，曾在圣母大學(xué)做博士后研究助理。

博士期間，姜煒文在國(guó)際會(huì)議和主要期刊上發(fā)表了50多篇研究論文，其中包括10多篇 IEEE/ACM 會(huì)刊論文，他在硬件加速和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)方面的合作研究獲得了IEEE TCAD 2021最佳論文，以及 DAC’19，CODES+ ISSS’19和 ASP-DAC’20最佳論文提名。

他在神經(jīng)網(wǎng)絡(luò)和并行系統(tǒng)等方面的研究工作引起了業(yè)界的廣泛關(guān)注，得到了美國(guó)國(guó)家科學(xué)基金會(huì)國(guó)際自然科學(xué)聯(lián)合會(huì)的科研基金，與 IBM，F(xiàn)acebook、 Edgecortix inc. (日本/新加坡) 等公司開(kāi)展了合作研究。