開(kāi)發(fā)專(zhuān)欄
NEW
不僅是智能手機(jī)和數(shù)碼相機(jī),裝載了相機(jī)功能的各種用途急劇增加。汽車(chē)、XR終端和產(chǎn)業(yè)機(jī)械、醫(yī)療設(shè)備、教育設(shè)備、無(wú)人機(jī)等裝載了相機(jī)功能的產(chǎn)品日益增加。但是正如第1和第2篇連載中指出的:要將相機(jī)功能植入各種用途中并不是件容易的事。需要兼具硬件和固件兩方面的知識(shí)。使用THine Electronics提供的相機(jī)開(kāi)發(fā)工具「CDK」,能大幅度減輕在固件開(kāi)發(fā)上的勞力。但是對(duì)初次挑戰(zhàn)植入相機(jī)功能的設(shè)計(jì)者來(lái)說(shuō),光是這一點(diǎn)并不足夠。于是THine著手開(kāi)發(fā)了新的組合。在構(gòu)建多方面支持相機(jī)功能植入作業(yè)的體制的同時(shí),還能開(kāi)發(fā)最適用于新用途的ISP(圖像信號(hào)傳感器)和CDK。
感應(yīng)器?網(wǎng)絡(luò)的構(gòu)成日益進(jìn)化
大家知道「SWARM」這個(gè)詞么?這是一個(gè)技術(shù)用語(yǔ),意指安裝著無(wú)數(shù)個(gè)感應(yīng)器,每個(gè)感應(yīng)器都通過(guò)無(wú)線來(lái)進(jìn)行數(shù)據(jù)傳輸?shù)囊环N網(wǎng)絡(luò)。是因?yàn)榇司W(wǎng)絡(luò)中傳感器像蟲(chóng)與鳥(niǎo)那樣一大群地存在而取名為SWARM(群)。為這一網(wǎng)絡(luò)命名的是美國(guó)加利福尼亞大學(xué)伯克利分校的Jan Rabaey教授。
SWARM與感應(yīng)器網(wǎng)絡(luò)基本同義?,F(xiàn)在感應(yīng)器網(wǎng)絡(luò)被稱(chēng)為IoT(Internet of Things),已是世界上通用的技術(shù)用語(yǔ)。
感應(yīng)器網(wǎng)絡(luò)的構(gòu)建正在穩(wěn)步發(fā)展,SWARM也就是IoT也正在慢慢實(shí)現(xiàn)。另一方面,相機(jī)功能也不輸各種感應(yīng)器,越來(lái)越多地被設(shè)置到各種場(chǎng)合。在監(jiān)控相機(jī)和智能手機(jī)、汽車(chē)、XR終端、產(chǎn)業(yè)機(jī)械、醫(yī)療設(shè)備、教育設(shè)備、無(wú)人機(jī)等設(shè)備上都理所當(dāng)然地需要裝載相機(jī)功能。這些都是「相機(jī)的SWARM」和「相機(jī)的IoT」的一種現(xiàn)實(shí)體現(xiàn)。
SWARM與感應(yīng)器網(wǎng)絡(luò)基本同義?,F(xiàn)在感應(yīng)器網(wǎng)絡(luò)被稱(chēng)為IoT(Internet of Things),已是世界上通用的技術(shù)用語(yǔ)。
感應(yīng)器網(wǎng)絡(luò)的構(gòu)建正在穩(wěn)步發(fā)展,SWARM也就是IoT也正在慢慢實(shí)現(xiàn)。另一方面,相機(jī)功能也不輸各種感應(yīng)器,越來(lái)越多地被設(shè)置到各種場(chǎng)合。在監(jiān)控相機(jī)和智能手機(jī)、汽車(chē)、XR終端、產(chǎn)業(yè)機(jī)械、醫(yī)療設(shè)備、教育設(shè)備、無(wú)人機(jī)等設(shè)備上都理所當(dāng)然地需要裝載相機(jī)功能。這些都是「相機(jī)的SWARM」和「相機(jī)的IoT」的一種現(xiàn)實(shí)體現(xiàn)。
相機(jī)活用的場(chǎng)合越來(lái)越廣泛
裝載了相機(jī)功能的各種用途急速增加。曾經(jīng)移動(dòng)設(shè)備和汽車(chē)是其主要的「2大用戶」,但最近這一狀況確實(shí)發(fā)生了轉(zhuǎn)變。XR終端及產(chǎn)業(yè)機(jī)械、醫(yī)療設(shè)備、教育設(shè)備等上裝載的相機(jī)功能也一口氣爆發(fā)。
例如,產(chǎn)業(yè)用途上,VR(虛擬實(shí)景)/AR(擴(kuò)張實(shí)景)/MR(復(fù)合實(shí)景)的維修作業(yè)等上也越來(lái)越活用到相機(jī)功能。在飛機(jī)的維修上用到AR時(shí),用相機(jī)拍攝作業(yè)情況,同時(shí)在頭戴式顯示器上顯示其影像;根據(jù)需要還可將影像的部分顯示到操作指南中(圖1)。而活用MR就能將相機(jī)拍攝到的現(xiàn)實(shí)空間中的3D(3次元)物體,通過(guò)手等動(dòng)作就能操作。可以不使用現(xiàn)實(shí)中的物體,在假想中練習(xí)例如安裝燈泡等維修工作。
例如,產(chǎn)業(yè)用途上,VR(虛擬實(shí)景)/AR(擴(kuò)張實(shí)景)/MR(復(fù)合實(shí)景)的維修作業(yè)等上也越來(lái)越活用到相機(jī)功能。在飛機(jī)的維修上用到AR時(shí),用相機(jī)拍攝作業(yè)情況,同時(shí)在頭戴式顯示器上顯示其影像;根據(jù)需要還可將影像的部分顯示到操作指南中(圖1)。而活用MR就能將相機(jī)拍攝到的現(xiàn)實(shí)空間中的3D(3次元)物體,通過(guò)手等動(dòng)作就能操作。可以不使用現(xiàn)實(shí)中的物體,在假想中練習(xí)例如安裝燈泡等維修工作。

圖1 AR(擴(kuò)張實(shí)景)的示例
相機(jī)逐漸成為零部件
相機(jī)現(xiàn)在被裝載于各種各樣的用途上。這種趨勢(shì)可以說(shuō)意味著「相機(jī)正在零部件化」。零部件化繼續(xù)發(fā)展下去,就會(huì)有更多廠家裝載相機(jī)功能。
但是植入相機(jī)功能并不簡(jiǎn)單。如連載的第1篇第2篇所指出,要植入相機(jī)功能,要熟練使用ISP(圖像信號(hào)傳感器),需要在硬件和固件兩方面都有比較高的知識(shí)(圖2)。通常,在硬件上比較強(qiáng)的企業(yè)會(huì)苦于植入固件的開(kāi)發(fā);在植入固件開(kāi)發(fā)上比較強(qiáng)的企業(yè)則會(huì)苦于硬件的開(kāi)發(fā)。
而且,相機(jī)零部件化后被各種廠商采用,其中也會(huì)有一些與至今的電子工學(xué)完全無(wú)關(guān)的領(lǐng)域的廠商。例如,制造頭盔的廠家會(huì)開(kāi)發(fā)裝載了VR/AR/MR功能的產(chǎn)品;車(chē)載后視鏡的生產(chǎn)廠家會(huì)將鏡子置換成相機(jī)等。
這些廠家在硬件和固件方面的知識(shí)自然不會(huì)太高。因此植入相機(jī)功能的作業(yè)就會(huì)變得很難。甚至有可能開(kāi)發(fā)會(huì)以失敗告終。這一事態(tài)是必須避免的。
但是植入相機(jī)功能并不簡(jiǎn)單。如連載的第1篇第2篇所指出,要植入相機(jī)功能,要熟練使用ISP(圖像信號(hào)傳感器),需要在硬件和固件兩方面都有比較高的知識(shí)(圖2)。通常,在硬件上比較強(qiáng)的企業(yè)會(huì)苦于植入固件的開(kāi)發(fā);在植入固件開(kāi)發(fā)上比較強(qiáng)的企業(yè)則會(huì)苦于硬件的開(kāi)發(fā)。

圖2 ISP(圖像信號(hào)傳感器)「THP7312」
而且,相機(jī)零部件化后被各種廠商采用,其中也會(huì)有一些與至今的電子工學(xué)完全無(wú)關(guān)的領(lǐng)域的廠商。例如,制造頭盔的廠家會(huì)開(kāi)發(fā)裝載了VR/AR/MR功能的產(chǎn)品;車(chē)載后視鏡的生產(chǎn)廠家會(huì)將鏡子置換成相機(jī)等。
這些廠家在硬件和固件方面的知識(shí)自然不會(huì)太高。因此植入相機(jī)功能的作業(yè)就會(huì)變得很難。甚至有可能開(kāi)發(fā)會(huì)以失敗告終。這一事態(tài)是必須避免的。
面向價(jià)值連鎖的構(gòu)建
因此THine Electronics正在抓緊構(gòu)建能支持相機(jī)功能植入開(kāi)發(fā)的體制?;旧峡紤]會(huì)根據(jù)需要支持的各廠家的情況提供多方面的技術(shù)支持。這一支持體系大致分為3點(diǎn)。
第1就是連載的前兩回介紹過(guò)的提供相機(jī)開(kāi)發(fā)工具「CDK」。CDK是由軟件開(kāi)發(fā)工具(SDK)與評(píng)價(jià)板(EVB)和GUI工具(3T:THine Tuning Tool)構(gòu)成的(圖3)。
使用它的話,能僅靠GUI工具來(lái)進(jìn)行參數(shù)設(shè)定后就能自動(dòng)生成固件(圖4)。也就是說(shuō)無(wú)需編程或編碼就能開(kāi)發(fā)固件;就能大幅降低固件開(kāi)發(fā)的門(mén)檻。
但是要熟練使用CDK仍需要相機(jī)和圖像處理方面的知識(shí)。且即便使用了CDK,仍有可能需要編程作業(yè)。具體來(lái)說(shuō),根據(jù)使用的圖像傳感器不同寄存器的設(shè)定也會(huì)不同,可能需要開(kāi)發(fā)適用的驅(qū)動(dòng)軟件。如果不能從外部購(gòu)買(mǎi)到合適的驅(qū)動(dòng)軟件,則只能自行開(kāi)發(fā)。
對(duì)相機(jī)和圖像處理方面的知識(shí)沒(méi)有自信;或者缺乏編程的經(jīng)驗(yàn),針對(duì)這樣的用戶我們準(zhǔn)備了第2種支持體制:Web會(huì)診。THine Electronics已經(jīng)完成了面向硬件開(kāi)發(fā)和軟件開(kāi)發(fā)兩方面的數(shù)據(jù)庫(kù)構(gòu)建。利用它就可以在開(kāi)發(fā)初期階段推測(cè)用戶在開(kāi)發(fā)作業(yè)上容易陷入困境的時(shí)節(jié)點(diǎn),針對(duì)其提供恰當(dāng)?shù)募夹g(shù)支持信息。大部分情況下僅通過(guò)一次短時(shí)間的Web會(huì)診就能解決問(wèn)題。
但有時(shí)也會(huì)出現(xiàn)通過(guò)Web會(huì)診也無(wú)法解決問(wèn)題的情況出現(xiàn)。這時(shí)就需要用到第3種支持體制了:即向客戶介紹專(zhuān)為相機(jī)機(jī)能植入服務(wù)的系統(tǒng)積分電路。
THine Electronics因?yàn)橄蚩蛻籼峁㊣SP和CDK,與各行各業(yè)的用戶都有所接觸。其中就包括系統(tǒng)積分電路。此外,面向圖像傳感器的驅(qū)動(dòng)軟件方面,THine Electronics也有經(jīng)許可的程序庫(kù);有時(shí)客戶也會(huì)許可我們使用過(guò)去曾開(kāi)發(fā)的驅(qū)動(dòng)軟件。THine Electronics還可以為苦惱于相機(jī)功能植入的客戶引見(jiàn)這些系統(tǒng)積分電路和驅(qū)動(dòng)軟件廠商。
事實(shí)上THine Electronics的相機(jī)技術(shù)團(tuán)隊(duì)的產(chǎn)品經(jīng)理桑山克己在該公司舉辦的研討會(huì)后的聯(lián)誼會(huì)上對(duì)各用戶和供貨商已經(jīng)拋出過(guò)橄欖枝:“如果能通過(guò)CDK構(gòu)建出日本最初的相機(jī)開(kāi)發(fā)共同體不是會(huì)很有意義么?”。今后我們也將盡全力為相機(jī)機(jī)能植入相關(guān)的「價(jià)值連鎖的建立」而努力。
第1就是連載的前兩回介紹過(guò)的提供相機(jī)開(kāi)發(fā)工具「CDK」。CDK是由軟件開(kāi)發(fā)工具(SDK)與評(píng)價(jià)板(EVB)和GUI工具(3T:THine Tuning Tool)構(gòu)成的(圖3)。

圖3 相機(jī)開(kāi)發(fā)工具(CDK)里包含的評(píng)價(jià)板(EVB)
使用它的話,能僅靠GUI工具來(lái)進(jìn)行參數(shù)設(shè)定后就能自動(dòng)生成固件(圖4)。也就是說(shuō)無(wú)需編程或編碼就能開(kāi)發(fā)固件;就能大幅降低固件開(kāi)發(fā)的門(mén)檻。

僅需在電腦上輸入GUI工具「3T」必須的參數(shù)就能描述固件。
圖4 使用「3T(THine Tuning Tool)」時(shí)的示例
但是要熟練使用CDK仍需要相機(jī)和圖像處理方面的知識(shí)。且即便使用了CDK,仍有可能需要編程作業(yè)。具體來(lái)說(shuō),根據(jù)使用的圖像傳感器不同寄存器的設(shè)定也會(huì)不同,可能需要開(kāi)發(fā)適用的驅(qū)動(dòng)軟件。如果不能從外部購(gòu)買(mǎi)到合適的驅(qū)動(dòng)軟件,則只能自行開(kāi)發(fā)。
對(duì)相機(jī)和圖像處理方面的知識(shí)沒(méi)有自信;或者缺乏編程的經(jīng)驗(yàn),針對(duì)這樣的用戶我們準(zhǔn)備了第2種支持體制:Web會(huì)診。THine Electronics已經(jīng)完成了面向硬件開(kāi)發(fā)和軟件開(kāi)發(fā)兩方面的數(shù)據(jù)庫(kù)構(gòu)建。利用它就可以在開(kāi)發(fā)初期階段推測(cè)用戶在開(kāi)發(fā)作業(yè)上容易陷入困境的時(shí)節(jié)點(diǎn),針對(duì)其提供恰當(dāng)?shù)募夹g(shù)支持信息。大部分情況下僅通過(guò)一次短時(shí)間的Web會(huì)診就能解決問(wèn)題。
但有時(shí)也會(huì)出現(xiàn)通過(guò)Web會(huì)診也無(wú)法解決問(wèn)題的情況出現(xiàn)。這時(shí)就需要用到第3種支持體制了:即向客戶介紹專(zhuān)為相機(jī)機(jī)能植入服務(wù)的系統(tǒng)積分電路。
THine Electronics因?yàn)橄蚩蛻籼峁㊣SP和CDK,與各行各業(yè)的用戶都有所接觸。其中就包括系統(tǒng)積分電路。此外,面向圖像傳感器的驅(qū)動(dòng)軟件方面,THine Electronics也有經(jīng)許可的程序庫(kù);有時(shí)客戶也會(huì)許可我們使用過(guò)去曾開(kāi)發(fā)的驅(qū)動(dòng)軟件。THine Electronics還可以為苦惱于相機(jī)功能植入的客戶引見(jiàn)這些系統(tǒng)積分電路和驅(qū)動(dòng)軟件廠商。
事實(shí)上THine Electronics的相機(jī)技術(shù)團(tuán)隊(duì)的產(chǎn)品經(jīng)理桑山克己在該公司舉辦的研討會(huì)后的聯(lián)誼會(huì)上對(duì)各用戶和供貨商已經(jīng)拋出過(guò)橄欖枝:“如果能通過(guò)CDK構(gòu)建出日本最初的相機(jī)開(kāi)發(fā)共同體不是會(huì)很有意義么?”。今后我們也將盡全力為相機(jī)機(jī)能植入相關(guān)的「價(jià)值連鎖的建立」而努力。
集中聆聽(tīng)客戶的需求向次時(shí)代產(chǎn)品開(kāi)發(fā)邁進(jìn)
如前所述,THine Electronics通過(guò)提供ISP和CDK,與需要用到相機(jī)功能的各家客戶都有關(guān)系網(wǎng)。因此能更早地聽(tīng)到不同用戶的“呼聲”。
對(duì)相機(jī)功能的要求根據(jù)用途不同是完全不同的。單反相機(jī)上最重要的就是要拍攝出美感。但醫(yī)療用途上比起拍攝出美感,確實(shí)準(zhǔn)確地發(fā)現(xiàn)疾病才是最重要的。必須將正常部分與病理部分的差異拍攝地清楚明了。而XR終端與產(chǎn)業(yè)用途上也會(huì)根據(jù)不同的需求而有其最需要側(cè)重的事項(xiàng)。且這種最側(cè)重事項(xiàng)還是在日益變化和進(jìn)步的。
也就是說(shuō)相機(jī)功能植入的作業(yè)正在從一直以來(lái)的移動(dòng)設(shè)備和汽車(chē)這2軸,向現(xiàn)在的醫(yī)療用途和產(chǎn)業(yè)用途、XR終端等N軸進(jìn)行。因此根據(jù)這些變化,ISP和CDK也需要時(shí)刻調(diào)整到最合適的狀態(tài)。
THine Electronics已經(jīng)聽(tīng)取了各類(lèi)用戶的呼聲,開(kāi)始著手于開(kāi)發(fā)次時(shí)代的ISP和CDK。目前在CDK上,正在面向醫(yī)療?數(shù)碼健康和XR終端等用途開(kāi)發(fā)新的功能。其中一部分功能已經(jīng)在最早批的客戶方進(jìn)行實(shí)驗(yàn)。
另一方面關(guān)于ISP我們也著手于探討次時(shí)代產(chǎn)品。這一次時(shí)代產(chǎn)品將在現(xiàn)有產(chǎn)品的4K(3840×2160像素)的基礎(chǔ)上,以更高的幀數(shù)來(lái)對(duì)應(yīng)8K(7680× 4320像素)等高分辨率要求之外,進(jìn)一步根據(jù)新用途來(lái)考慮裝載一些新的功能。例如擴(kuò)張動(dòng)態(tài)范圍的功能和自動(dòng)對(duì)焦(AF)與自動(dòng)曝光(AE)、自動(dòng)白平衡(AWB)這「3A」的功能、性能的增強(qiáng)。
此外,如果能用專(zhuān)用硬件實(shí)現(xiàn)這些新功能,就能在控制ISP的芯片尺寸和消耗電力的同時(shí),使后半段的邊緣計(jì)算的CNN與云計(jì)算的GPU上的軟件處理變得更容易;且能提高其性能?,F(xiàn)在,我們正在與負(fù)責(zé)硬件和軟件方面的合作企業(yè)進(jìn)行探討。目前ISP的具體產(chǎn)品化時(shí)間尚未確定,最早將在2020年內(nèi)實(shí)現(xiàn)。
對(duì)相機(jī)功能的要求根據(jù)用途不同是完全不同的。單反相機(jī)上最重要的就是要拍攝出美感。但醫(yī)療用途上比起拍攝出美感,確實(shí)準(zhǔn)確地發(fā)現(xiàn)疾病才是最重要的。必須將正常部分與病理部分的差異拍攝地清楚明了。而XR終端與產(chǎn)業(yè)用途上也會(huì)根據(jù)不同的需求而有其最需要側(cè)重的事項(xiàng)。且這種最側(cè)重事項(xiàng)還是在日益變化和進(jìn)步的。
也就是說(shuō)相機(jī)功能植入的作業(yè)正在從一直以來(lái)的移動(dòng)設(shè)備和汽車(chē)這2軸,向現(xiàn)在的醫(yī)療用途和產(chǎn)業(yè)用途、XR終端等N軸進(jìn)行。因此根據(jù)這些變化,ISP和CDK也需要時(shí)刻調(diào)整到最合適的狀態(tài)。
THine Electronics已經(jīng)聽(tīng)取了各類(lèi)用戶的呼聲,開(kāi)始著手于開(kāi)發(fā)次時(shí)代的ISP和CDK。目前在CDK上,正在面向醫(yī)療?數(shù)碼健康和XR終端等用途開(kāi)發(fā)新的功能。其中一部分功能已經(jīng)在最早批的客戶方進(jìn)行實(shí)驗(yàn)。
另一方面關(guān)于ISP我們也著手于探討次時(shí)代產(chǎn)品。這一次時(shí)代產(chǎn)品將在現(xiàn)有產(chǎn)品的4K(3840×2160像素)的基礎(chǔ)上,以更高的幀數(shù)來(lái)對(duì)應(yīng)8K(7680× 4320像素)等高分辨率要求之外,進(jìn)一步根據(jù)新用途來(lái)考慮裝載一些新的功能。例如擴(kuò)張動(dòng)態(tài)范圍的功能和自動(dòng)對(duì)焦(AF)與自動(dòng)曝光(AE)、自動(dòng)白平衡(AWB)這「3A」的功能、性能的增強(qiáng)。
此外,如果能用專(zhuān)用硬件實(shí)現(xiàn)這些新功能,就能在控制ISP的芯片尺寸和消耗電力的同時(shí),使后半段的邊緣計(jì)算的CNN與云計(jì)算的GPU上的軟件處理變得更容易;且能提高其性能?,F(xiàn)在,我們正在與負(fù)責(zé)硬件和軟件方面的合作企業(yè)進(jìn)行探討。目前ISP的具體產(chǎn)品化時(shí)間尚未確定,最早將在2020年內(nèi)實(shí)現(xiàn)。
注意:文中涉及的各個(gè)企業(yè)名稱(chēng)、產(chǎn)品名稱(chēng)等都是其各自所有者的商標(biāo)或注冊(cè)商標(biāo)。
客戶咨詢方式
前海賽恩電子(深圳)有限公司 營(yíng)業(yè)部(請(qǐng)點(diǎn)擊此處進(jìn)行咨詢)