這幾天來關於疫苗的風風雨雨,我們已經看得太多。但是如果一切回到科學的角度,就知道每個國家疫苗策略的選擇,都有它背後的道理。台灣的疫苗策略,更是在重重限制下,深思熟慮後的結果。
先分享一下三個月前 3Q 陳柏惟 分享的一篇科普好文:
https://www.facebook.com/3Q.PehUi/posts/1389243704741950/
從 3Q 陳柏惟 的文章裡,我們大概瞭解了四大類型的武漢肺炎疫苗(mRNA、腺病毒載體、滅活性病毒、基因重組蛋白質次單元)之間的性質差異,和各自的優缺點。那麼,世界各國採用這些技術,背後的考量又是什麼呢?
🔹 美國:以壓倒性的技術力、後勤力和財力一決勝負
信使核糖核酸(mRNA)是先端技術,應用在疫苗上,至今才差不多約十年的時間。這世界上能掌握此技術的,只有美國和歐洲的少數團隊。Moderna就是此一技術的大本營-哈佛大學的育成公司。而相關技術的另一位匈牙利裔的祖師爺,則是跑去德國主持BioNTech公司。
美國自從一開始,就打算以壓倒性的技術力與後勤力一決勝負。除了扶植純美國血統的Moderna公司以外,也透過財雄勢大的輝瑞(Pfizer)和德國BioNTech合作。搞疫苗不是只有技術而已,臨床試驗、生產、藥證申請程序、通路,樣樣都要燒錢;BioNTech的資源不足,而輝瑞的合資則讓一切變得可能。作為交換,美國也讓輝瑞在美國境內生產這支疫苗,戰略資源完全不假他人之手。
然而mRNA疫苗的物性不穩定,對於冷鏈的要求很嚴格。輝瑞疫苗要求-70℃冷鏈(雖然實際調查後,條件略有放寬);Moderna好一點,也要-20℃,比你家冰箱冷凍庫低一點。當然了,醫療用冷鏈還對恆溫的要求遠比家裡的冰箱嚴格。
要佈建冷鏈是非常龐大的基礎建設工程,而去年美國在川普總統任內,展開「神速作戰(Operation Warp Speed)」,砸下大把金錢甚至動用美軍資源,把如此嚴苛、輝瑞等級的冷鏈打通到全國各地。這個政績是連拜登都不得不稱讚的。
總之,美國就是有那個底氣,能夠把極嬌貴的先端技術疫苗,用最快的速度研發出來,搞定量產、配送,做到全國人人能打(而且還免費)的程度。如果深入瞭解到這一點,那種心情,就好像日軍參謀在太平洋戰爭中看到美國大兵在喝可樂吃漢堡一樣,對其後勤能力讚嘆不已。
🔹 英國:走成熟務實路線,但也有它的技術深度
英國當然沒辦法做到像美國這樣財大氣粗。英國/瑞典合資的阿利斯康(AstraZeneca),嚴格來說算是業務範圍很廣的綜合製藥公司,在疫苗方面不是特別地專業。所以「腺病毒載體疫苗」這個很成熟的技術,就成為一個好選項。
能夠研發腺病毒疫苗的國家很多,美國是一定有的(嬌生J&J),中國也能搞。所謂腺病毒載體疫苗,簡單說就是用對人體較無害的腺病毒,搭載武漢肺炎病毒的片段,進入人體裡面讓免疫系統去認識。
那麼,這裡作為載體的腺病毒該怎麼選擇,就成了成功的關鍵。人類很多都感染過腺病毒(腺病毒是很多上呼吸道感染的病原,換而言之,你得過感冒就有很大機會感染過某種形式的腺病毒);如果你載體選用太常見的腺病毒,那疫苗打進體內,你的免疫系統就直接把它當作已知的腺病毒處理掉了,根本不會去學習所搭載的武肺病毒片段,打了等於沒打。所以,選用罕見的腺病毒就非常重要。像現在大家都不怎麼提起中國的康希諾了,因為他家選用載體,是人體太過常見的Ad5腺病毒,嚴重影響到該支疫苗的有效性。
這裡就可以看到英國的技術底蘊,其載體來自於牛津大學長期研究的黑猩猩腺病毒,俗稱黑猩猩感冒病毒。它不但罕見也對人體無感染力,是最理想的疫苗載體。而這款黑猩猩腺病毒怎麼發現、取得的?自然就來自於英國長年的殖民地與熱帶流行病學研究經驗。
起頭選得好,接下來量產對於阿利斯康這種綜合製藥大廠,當然就比較不成問題;目前AZ疫苗的產能輸出,在全球來說也是比較穩定的。但此類疫苗,等於是把(可能還有部份活性的)病毒打入體內,多多少少有點安全上的疑慮。當然腺病毒不是滅活的武肺病毒,而AZ採用的黑猩猩腺病毒載體,更對人體沒有致病性。但是一般建議免疫力低下的人(例如HIV帶原者)或孕婦,要避免此類疫苗。
實際施打的結果,AZ疫苗打死人的機率,比走在路上被雷打到還低。在疫情緊急的當下,仍是遠遠利大於弊的選項。
🔹 中國:瓦房店主義,馬馬虎虎求快求便宜
中國主打的國藥和科興,都是屬於所謂的「滅活疫苗」。滅活疫苗要搞很簡單,把真正的武漢肺炎病毒,拿去化學處理滅除它的活性,只剩下病毒的空殼子,好讓身體的免疫系統去學習產生抗體。滅活/減活的概念在人類醫學史上已經存在一兩百年了,大家耳熟能詳從小就打過的小兒麻痺的沙賓/沙克、日本腦炎、A肝等疫苗,都是典型且歷史悠久的滅活/減活疫苗。
但太過簡單傳統的技術,往往意味著不好用。至少在武漢肺炎疫苗的領域裡,這個法則是成立的。首先,如果滅活不完整,以武肺病毒之刁鑽,很可能打疫苗打到變成直接中鏢。至於其引發的免疫反應,還有專一性(讓身體可以產生對抗武肺病毒的抗體,而非雜七雜八沒有用的抗體),比不上最先端的mRNA不說,相較於其他成熟的技術如腺病毒載體、蛋白質次單元等也差強人意。而且還很容易造成疫苗不良反應。
但是中國哪管這些。能夠用最快的速度、最低的技術要求,生出一個還堪用的東西,把它倒給廣大的十四億人口(但中國人好像也不太領情),還可以順便搞搞疫苗外交,輸出給那些亞非拉的苦命兄弟們,這樣就夠了。實際的保護力?馬馬虎虎就好。不良反應?反正政府壓下消息,沒人會知道,也沒人敢知道。
中國滅活疫苗,是那些急於做做成績,「有打就好」的極權國家的的首選。
當然中國也有想要搞更先端技術的疫苗,例如以市場與藥證發放為籌碼,硬性要求BioNTech轉移mRNA技術,在中國境內生產。但中國人搞高新技術,都會有一種「瓦房店化」的現象。就是從國外引進了高科技,但因為文化不合、人謀不臧、管理不善、勞動力素質跟不上,再加上國內粗製濫造的產品競爭…等等諸多因素,使得引進的技術「退化」。最極端的就是像搞半導體那樣砸了大錢結果顆粒無收,好一點就是做出來的產品總是有點差強人意。
所以,要不要信任中國的產品,就留待看倌們自行思考了。
🔹 台灣:在各種艱難處境中,走出一條折衷穩健路線
照理說台灣作為小國,是不指望在疫苗研發的大國競賽當中軋上一腳的。但是台灣很清楚自己在國際上孤立的處境,知道引進外國疫苗,勢必會受到那個流氓國家的各種阻撓。即使能夠順利打通通路,台灣的市場規模小,又不能像以色列這樣出三倍價錢搶貨,各大廠商也未必會把台灣放在優先供貨的順位。
因此台灣永遠都得做好「一切靠自己」的最壞打算。當然梭哈押寶於國產疫苗,對台灣風險太大,因此必須外購+國產,雙軌並重,盡可能打通每一條道路。這是台灣的命運,也是台灣的靈活度。
美國也充份瞭解台灣的難處。要知道美國自己也是疫情大國,在最高峰期的時候,是不是能拿疫苗支援盟友國家,美國自己也說不準。因此,美國做了一個罕見的決定,就是把美國國衛院的疫苗設計圖譜,授權給台灣自主研發。這個源頭等於是與Moderna同源。
好的開始是成功的一半,這一步美國是幫我們跨過去了。照理說拿到跟Moderna同樣的源頭,是不是可以直上mRNA技術呢?這對台灣老實說有點困難,就算做得到,mRNA疫苗嚴苛的冷鏈要求,對台灣來說也是一大負擔。
因此台灣退一步,拿著這套圖譜,走重組蛋白質疫苗的路線(嚴格來說是『基因重組蛋白質次單元疫苗』,我不是太專業,以下就暫且簡稱蛋白質疫苗吧)。台灣長期研發生產的流感疫苗,就是屬於這類技術。以美國帶頭搞定的圖譜,來搭配台灣本來就駕輕就熟的技術,對台灣來說確實是最穩健可行的路線。
蛋白質疫苗不只是技術上穩健可行,而且有很多優點。首先,蛋白質的物性比mRNA穩定得多,也因此對冷鏈的要求不高,跟腺病毒疫苗差不多(2-8℃,大約是你家冰箱冷藏室的溫度)。
第二,其誘發免疫反應的機制比較直接。mRNA疫苗,是把遺傳因子打入體內,誘發身體製造出帶有武肺病毒特徵的棘狀蛋白,然後這份棘狀蛋白再去誘發免疫系統產生抗體。但是蛋白質疫苗,則是直接把這份棘狀蛋白打進體內,讓免疫系統去學習,等於比mRNA疫苗少了一個步驟。所以理論上打完第一劑後,產生抗體的速度會比其他類型的疫苗更快。
而且蛋白質疫苗的安全性,理論上是最高的。上面已經提到,腺病毒疫苗內含部份活性的腺病毒,因此免疫力低下者與孕婦不能施打。mRNA疫苗則是要把遺傳因子打入體內,雖然它不會像謠言所說的去改變人體的DNA,也沒有任何證據顯示這個機制不安全,但你知道的,先端技術,有些事情還是需要時間去證明。
蛋白質疫苗技術當然也有缺點。最大的缺點就是要用基因工程挑揀出可用的棘狀蛋白,再確認其效果十分麻煩。其研發過程比mRNA、腺病毒、滅活等疫苗繁瑣得多,短期拼量產也比較困難。因此採用此一技術的美國Novavax、英國葛蘭素史克、法國賽諾菲,進入市場時機都比較落後。與他們相比,台灣的高端、聯亞並不算落後太多,國光則要再慢一些。
整體來說,國產蛋白質疫苗絕對是值得期待的。尤其它免疫反應強、對冷鏈要求低、安全性高,在武肺疫情可能「流感化」永不消失的趨勢下,對於打進第三世界國家市場、吃長尾市場十分有利。但它的研發時程就是要慢上那麼一些,因此對台灣而言,在國產疫苗供應穩定之前,還是要盡可能保障外購疫苗的管道暢通。
🔹 關於三期試驗
我知道某陣營的網軍,一直在黑「國產疫苗沒有三期臨床試驗,是拿國民在當白老鼠」。但事實上,你如果去看看維基百科的條目(要看英文,https://en.wikipedia.org/wiki/COVID-19_vaccine ),不難發現,其實現在根本沒有哪家疫苗是跑完三期的。因為跑三期要收好幾萬個案,花上兩到三年不等的時間,大多數的廠商都是估計在2021下半年~2023才能跑完。唯一例外是輝瑞,可能真的本錢夠粗,能夠收夠案子提早解盲。
現在能夠上市的疫苗,都是跑完二期臨床,就趕快申請緊急授權。畢竟藥廠也好、人類也好,根本等不了那麼久。
而且三期臨床試驗也有一點醫學倫理上的灰色地帶。所以像中國、俄羅斯這種反正也不怎麼在乎人權,還有一堆也不怎麼在乎人權的盟友的國家,在這一點上就特別有利。而民主國家的廠商,也只能盡量把三期臨床試驗外包給較貧窮的國家,這也是大家心照不宣的業界現實。
🔹 寫在最後
稍早韓國以其戰略地位與半導體產能為籌碼,向美國爭取到Moderna疫苗授權代工。這算是韓國近期的一大外交勝利。台灣,以柯文哲為首,就開始逞其費拉話術,批評政府為什麼不要像韓國這樣,走比較簡單低風險的代工路線。
但請別忘記,韓國代工Moderna是這幾天才談成的(大財閥大工廠的生產規模,也是他們搶到代工合約的主要因素)。而台灣自主疫苗研發已經跑了一年多、進入二期了。台灣未必跑得比韓國慢。
這裡我要引用非主流歷史學家劉仲敬的兩句話:
「實際上所有能夠讓你和你的後裔往上走的方式都是費力的,尤其是危險的,危險比費力更重要。」
「上等人就是承擔風險的能力高於一般的人。」
是的,自主疫苗研發,比起代工來說,是一條艱難的路,也是一條高風險的路,很有可能大筆投入卻顆粒無收。
但是一旦修成正果,除了自救有餘以外,還能幫助他人(Taiwan can help!)。而樂觀點看,世界的疫苗市場將為我們開啟(當然中間還有很多政治難題要搞定,但至少我們做出了產品,不是嗎)。
不諱言,台灣在國際社會的處境,有如賤民一般。但人出身可以低、志氣不能短,愈是國際賤民,就愈是要證明自己的能耐。與大家共勉之。
(圖片來源: 3Q 陳柏惟)
同時也有1部Youtube影片,追蹤數超過75萬的網紅志祺七七 X 圖文不符,也在其Youtube影片中提到,本集廣告與「圖文不符上課囉」合作播出 💭想利用線上課程開創被動收入嗎? 💭該如何將自己的知識 Knowhow 轉化成線上課程體裁呢? 打造十多堂熱銷課程、狂銷六萬多人 #圖文不符上課囉 暢銷線上課程的煉成心法,大・公・開!✨ 志祺將在本場講座中,分享圖文不符上課囉的開課秘訣。 從市場、內容、講...
「劉以勤wiki」的推薦目錄:
- 關於劉以勤wiki 在 蕪菁雜誌 Facebook
- 關於劉以勤wiki 在 鄭龜煮碗麵 Facebook
- 關於劉以勤wiki 在 台北市議員 - 李建昌 Facebook
- 關於劉以勤wiki 在 志祺七七 X 圖文不符 Youtube
- 關於劉以勤wiki 在 劉以勤幾歲的八卦,PTT、YOUTUBE和Yahoo名人娛樂都在討論 的評價
- 關於劉以勤wiki 在 劉以勤幾歲的八卦,PTT、YOUTUBE和Yahoo名人娛樂都在討論 的評價
- 關於劉以勤wiki 在 主播劉以勤幾歲、劉以勤離婚、劉以勤婚姻在PTT/mobile01 ... 的評價
- 關於劉以勤wiki 在 主播劉以勤幾歲、劉以勤離婚、劉以勤婚姻在PTT/mobile01 ... 的評價
- 關於劉以勤wiki 在 詹可旬年紀在Youtube上受歡迎的影片介紹|2022年04月 的評價
- 關於劉以勤wiki 在 寰宇看東亞20220217【完整版】全方位解析台灣參與CPTPP ... 的評價
劉以勤wiki 在 鄭龜煮碗麵 Facebook 八卦
我們該如何規範人工智慧 (全文)?
#COMPUTEX,這個跟我一樣歲數的電腦資訊展會,我竟然直到今年才首次踏入。
這次受主辦單位之一的 #外貿協會 ( #TAITRA)邀請,在上週三(5/29)來到位於南港展覽館 2 館4樓的「 #SmarTEX」展區參觀,與多家參展公司交流。我雖然自己經營過科技媒體網站,但我不是擅長採訪會展的記者,也不是好的 3C 部落客,因此我抱著「幫自己正在思考的問題取材」的目標,前往這場大型科技會展。
(先說:因此這篇文章不會有太多展覽展位上產品的細節跟照片,請大家見諒。)
而我最近在想的問題,也就是本篇文章的主題是:進入人工智慧時代,我們該如何規範人工智慧?
或者,我們也可以反過來問:人工智慧該如何規範我們?
自認偏樂觀派的我,其實不希望讓大家覺得「人工智慧的未來真糟糕」,我的個人偏見是:大致來說,我喜歡科技,儘管科技的確會帶來衝擊,但只要我們更願意去思考,就更有機會讓未來往比較好的方向演進。所以談這個議題,目的是要避免要是這樣的狀況真的發生了,我們才懊悔地說「這真糟糕,為何我們沒有早點想到。」
--------------------
關於人工智慧的規範問題,首先,我們來看看 MIT 媒體實驗室做的一個調查「道德機器」(網址:http://moralmachine.mit.edu/hl/zh)。
在這個網頁裡頭,有許多類似「#電車難題」的情境,需要你來回答。每一個參與者,需要回答 13 個題目,每個題目只有兩個選項。在每一個題目的情況中,都有一輛突然煞車失靈的自動駕駛汽車,而你必須做出選擇,要繼續前進,或是轉彎離開。
例如在某個二選一的情況中,你認為這台自動駕駛車該繼續直衝,撞死一個成人男性,還是轉動方向盤,讓車子撞上另一側的護欄,殺死車上四個人,包括兩名兒童?
在另一個二選一的情況中,這台自動駕駛車上只有一隻貓,若繼續直衝,會撞上護欄,讓貓死於非命,但若自駕車往左彎,貓的性命可保,卻會撞死一位正在違規闖紅燈過馬路的遊民。
類似這樣的二元選擇有很多種變化,例如過馬路的可能是動物、可能是罪犯、可能是醫生,嬰兒,或是這些人的綜合隊伍,他們或許是違規過馬路,或許是遵守交通規則但運氣不好。而車子直衝或轉彎,也隱含了道德選擇。推薦各位都上道德機器的網頁去回答看看,看你會不會跟我一樣覺得實在是逼人太甚,到最後根本就放棄思考(XD)。
這個網頁告訴我們一件事:我們不可能對各種狀況產生共識、或得出任何堪稱正確的答案,事實上這個調查也不是要用多數人的意見來決定未來的自駕車要是真的煞車失靈的時候,該做出什麼行動。然而這個調查提醒我們,當越來越多的「人工智慧代理」進入我們的生活,就會產生更多類似的道德難題。
--------------------
舉例來說,若一個 #人工智慧股票交易系統,因為對政治領袖發在社群媒體上的文章產生錯誤的解讀,而決定拋售某一檔股票,造成連鎖反應,讓投資者大賠一筆,這樣的損失該由誰來負責呢?
延伸閱讀:〈AI 機器人害我投資賠錢,我能告他嗎?〉
https://www.techbang.com/posts/70447-ai-robot-made-me-invest-money-can-i-sue-him
舉例來說,若一個 #人工智慧戀愛配對系統,推薦了一位居心不良的對象給另一個使用者,最後使用者被騙財騙色了,誰會受到最多的指責呢?誰「#與惡的距離」最近呢?
再舉一例來說,如果用於門禁或 ATM 的臉部辨識 AI 系統出問題,太過嚴格以至於讓使用者開不了門、領不到錢,或是太過寬鬆使歹徒得以利用,那該怎麼定義問題的範圍,用理性的方式來解決呢?
臉部辨識作為服務升級的關鍵,從智慧零售到智慧家居到智慧服務,都少不了這項技術的身影,也是人工智慧使預測平價化的代表。只要你拿著這一兩年出的新手機,想必也不會陌生。例如我這次參訪的 #訊連科技(CyberLink)展場主打「FaceMe」AI 臉部辨識引擎,他們提供 SDK 與多家科技廠商合作,包括 #宏碁雲端、#奇景光電、#微程式、#凌群、#達碩 等。我也拜訪了同在 SmarTEX 展出的達碩智慧科技,了解他們使用這套臉部辨識引擎,針對銀髮照護、社區管理、企業差勤管理等不同情境設計的解決方案。即使在我與訊連跟達碩的主管談話時,他們自謙還不是目前領先的廠商,但他們的服務也已經非常成熟,可見這樣的軟硬體整合套裝將持續普及到各地,而台灣中堅企業將成為關鍵推手。
美中貿易戰,加上美國可能逐步針對有侵犯人權之虞的監控科技施加圍堵禁令(如 #海康威視、#浙江大華、#商湯科技 等),突顯出台灣提供類似服務的企業所能提供的安全價值,但即使如此,這項科技本身還是帶給社會其他挑戰。訊連科技的連啟民協理跟我說,臉部辨識的準確性不是 0與1 的取捨,他們的 SDK 能夠針對不同情境,讓配合的廠商自行調整精度,掌控風險,例如從一般社區門禁的萬分之一調到 ATM 的十萬分之一,同時使用邊緣運算技術(Edge Computing),讓資料不用都到雲端,降低反應時間及資安疑慮。
我在展場也與 #康訊科技 及 #訊舟科技 兩家公司進行交流。康訊從圖資起家,以地理定位技術切入車載系統設備,扎根台灣30多年來,已經成為全球領先的車隊管理服務商,不管是共享汽機車、物流公司、校園巴士、救護車、消防車都是他們服務的客戶。他們提供的設備就像車上的黑盒子,可以完全掌握車輛的狀況,如透過監測引擎啟動狀態,可以知道司機是否過勞;透過監測燃料消耗情況,可以知道是否有偷油的情形發生。而全球客戶累積的數據也成為重要的資產,可以協助物流業者優化路線。
訊舟作為老牌網通公司,這次展出許多產品,我認為最亮眼的就是他們與中研院陳伶志博士合作推出的「空氣盒子」,我雖然早就知道空氣盒子,卻是第一次看到並且從訊舟的角度聽這個已經是公民科技典範的故事,目前在全台已經有 4,000 多台設備上線,密集監測空氣品質,累積的數據也已經可以做到空品預測。
另外,這次在 SmarTEX,科技部推動的 #GLORIA 國際產學聯盟現場展出 67 項前瞻技術,我也與聯盟中的幾所大學交流,例如 #中國醫藥大學 推出能夠判讀骨齡、癌症等資訊的 AI,節省醫師判讀時間,加速診斷。#國立交通大學 伍紹勳博士則與 #新光醫療團隊 合作,用像是貼在東尼史塔克胸口的智慧貼片,只用3導程就能正確模擬專業醫療設施12導程的ECG心電圖信號,大幅改善病患的行動自由,也顯著降低成本。而具有超過 2,000 例達文西手術經歷的 #臺北醫學大學劉偉民醫師團隊,則在擁有大量醫師第一視角錄影的基礎上,推出手術教學平台,包括 VR 手術直播拍攝,與虛擬手術教學模擬系統。
從訊連、達碩、康訊、訊舟到這三個來自學界的醫療技術案例,可見都與數據分析、人工智慧辨識判讀、虛擬模型建置有關,儘管我相信在台灣醫療與科技、工程多重優勢下,他們都前景可期,但該問的仍然要問:要是出了差錯,怎麼辦?誰負責?各團隊對此問題顯然也都深思熟慮過。而我將他們給我的回答整理,加入我對「人工智慧如何規範」這個問題的答案。
--------------------
#以自駕車為例思考
著名的科幻小說家艾希莫夫,在1942 年的短篇小說 Runaround 以及後來的機器人系列裡頭,提出了機器人三原則(Three Laws of Robotics),很多人可能都會背了,這三原則分別是:第一,機器人不得傷害人類,或坐視人類受到傷害;第二,除非違背第一法則,否則機器人必須服從人類命令;以及第三,除非違背第一或第二法則,否則機器人必須保護自己。
參考:Three Laws of Robotics
https://en.wikipedia.org/wiki/Three_Laws_of_Robotics
這三原則聽起來很周密,但其實並非如此,而且也不太現實。以自動駕駛汽車作為案例吧,自動駕駛汽車是這一波人工智慧發展最受關注的領域,而且因為許多國家政府正在積極制訂法規,自駕車的自動化程度,跟依據自動化程度而制定的責任歸屬,也比較清楚,值得用來舉一反三,幫助我們思考,人工智慧要是進入到每一個領域,會帶來多少該仔細考量的變化。
那麼,到底什麼是自動駕駛汽車呢?你可能聽過什麼 Level 3,Level 5 的,那指的是自動駕駛的自動化程度分級,我們可以用這張表來簡單呈現:
這個分級定義,是由國際汽車工程協會(Society of Automotive Engineers, SAE)所提出的,已經獲得廣泛的共識。從第零級到第五級,共有六個層級。第零級的自動駕駛就是毫無自動化,一直到第二級,都還是以駕駛員為主,機器提供輔助。
但從第三級開始,負責開車的就是機器了。人類駕駛頂多在緊急狀態作為備用選項。第四級之後,就連緊急狀態也是由機器來應對,人類就從駕駛這件事基本退場了。到第五級的情況,就像是有一個超級人工智慧在負責開車,相信到時候,超級人工智慧也不會只用在車上。
目前已經有幾家汽車公司宣稱自己的自駕車達到了第三級,例如 #奧迪、#特斯拉、#現代汽車 等,大部分車廠也都表示在 2020 年就會推出第三級的自駕車。Google 旗下的 Waymo 以及台灣的財團法人車輛研究測試中心 ARTC 則表示都已經有第四級自駕車的技術能力。
日本政府非常積極地花工夫在自動駕駛的規範上,日本的「投資未來委員會」在 2018 年底,便提出了已經研擬多年的自動駕駛汽車指導原則。根據報導,日本首相安倍晉三希望透過採取具體步驟,建立法律框架,讓日本成為率先制定國家級規範的國家。首要處理的就是第三級自動化情況下的監督跟法律方向。我們就來看看,在自駕車的規則上,日本是怎麼想的?
日本的規則是,通常來說車主需要對車輛自主運行時發生的事故負責,並且由政府規定的汽車保險公司承保。如果車輛系統有明顯的缺陷,該負責的就是汽車製造商。強制性保險這一步確定了之後,保險公司也就能夠制定方案,讓車主選擇,要保哪一種。
另外,為了釐清事故的原因,自動駕駛汽車需要完整記錄位置、轉向、人工智慧系統操作狀態的信息,也就是說,得要有像是飛機黑盒子這樣的裝置。
那如果遇到新型態科技犯罪者或駭客呢?只要車主有採取適當的安全措施,例如更新車輛系統或維護保養,那麼若是因為駭客攻擊或入侵造成損害,就視同汽車被偷走了。
除了這幾個大方向以外,還有不少問題待解決。因為剛剛說的都只是民事責任,財產相關的規範,但還沒有碰觸到刑事責任,如果真的因為自駕車的缺陷而造成傷亡,除了車主以外,程式開發者,汽車製造商該負起哪些連帶的責任呢?若不能盡快釐清,程式開發者跟汽車製造商就難以決定是否該正式推出產品。
另外,自動駕駛的操作條件、例如速度限制,運作的時間長短,天氣狀況也都得考量,就像各種已經存在的汽車安全規範一樣,人工智慧控制系統的標準、對網路攻擊抵禦的強度,也都得一一制定。
--------------------
而以自動駕駛為案例,可以幫助我們思考該怎樣規範其他人工智慧的應用情境。歸納我這次到 SmarTEX 參訪交流的心得,我想比起艾希莫夫的機器人三原則,我們該建立的思考原則其實是這四個:
#面對此時此刻的人工智慧該有的思考原則
第一,#釐清主控權。整項任務中,是人類還是機器掌握主控權?能否以清楚的層級概念來劃分人類或機器的掌控程度?就像自駕車這樣呢?另外,在關鍵決策點,人類有沒有介入,是否被要求介入?這些都必須根據不同的應用環境來一個一個釐清。
第二,#損害管理與風險溝通。在發生意外的時候,擁有者、使用者、設計者、販售者、維修者等角色,是否已經明白可能要負的對應責任?這些責任的政府主管機關與相關的法律有哪些?其實每一樣新的科技進入我們的生活,都會有一段學習曲線,我們不太可能在了解所有問題、解開所有疑慮之後才採用新技術,而是必須妥善跟每一個角色溝通風險。
第三,#數據紀錄透明化。為了忠實檢討意外發生的原因,人工智慧系統需要持續紀錄運作狀況,以及感測器所收集到的各種資訊。並且要確保訓練人工智慧的資料也是可受檢驗的,避免造成系統化的偏見。另外也同等重要的是,收集數據的單位,像是企業、保險公司或政府,有義務證明,收集這些資訊,是必要且適當的。例如飛機上機長跟駕駛員的通話可以收集,但車內的通話該不該收集呢?商店內的顧客對話該不該收集呢?
第四,#系統思維。任何意外發生,都要了解,系統總是存在一定的風險,告知風險機率跟可能的狀況類型。以「不責難」的出發點,來面對後續的檢討,才能讓各角色更願意把系統中的臭蟲或不當行為揪出來,最終的目標是讓這個能夠便利更多人、拯救更多人的系統,越來越好。就像醫療一樣,如果每次只要有病人在手術中過世了,醫生都要被告到賠上身家,那還會有醫生願意繼續替病人動手術嗎?當醫療行為中有越來越多具有人工智慧的機器介入,診斷疾病、決定麻醉份量、甚至用機械手動手術,我們就不得不分配信任給更多的角色。
從 COMPUTEX 的 SmarTEX 展區上琳瑯滿目結合了人工智慧的技術,可以肯定人工智慧已經,也即將進入每一個我們可以想像得到的層面,過去的規範將無法適用,而且即使訂出新規範,也會很快過時。我們不可能完全理解我們部署的人工智慧系統的風險。當前的機器學習運行得如此之快,以至於沒有人真正知道機器是如何做出決策,通常連開發人員也不知道。這些系統還會持續從環境中學習並更新他們的函式,這使研究人員更難控制和理解決策過程,在這樣缺乏透明度,也就是常說的黑盒子問題籠罩下,要建立道德準則跟規範,當然就極為困難。
然而若不要大驚小怪,將人工智慧與人肉智慧對等來看,人類花了幾千年建立起的道德準則,同樣漏洞百出,我們卻也習慣了。人類專家有的偏見跟偏誤更是問題層出不窮,而我們也是一直倚賴這樣有缺陷的專家系統在運作。此刻的人工智慧浪潮,正給了我們機會跟動力,檢視我們習以為常的那些想法,我認為以上的四原則,更有助於我們迎向已經到來的未來世界,而開發出這些技術,推出產品與服務的企業,若都能夠率先思考這些問題,也是我們所期待的。就如同我在這次 COMPUTEX SmarTEX 展區上看見的一樣。
--------------------
最後,我雖然只逛了整個 COMPUTEX 的一部份,但很感謝外貿協會,讓我能不只是走馬看花,而是深入與廠商對話跟採訪,非常有收穫。幾乎每一家我逛的展位,都跟數據、AI(起碼是機器學習)有關,並將其結合硬體,整合出具有市場競爭力的方案,雖然我沒有資格替他們的產品背書,但我覺得深入談過之後,他們都對自己的產品與服務非常有自信,或許並非市場的領先者,也已經看見該切入的定位與成長的路徑。
今年的 COMPUTEX 展會已經結束,不過以後若有機會前往類似會展活動,很推薦大家跟我一樣帶著問題意識去逛逛,跟這些未來世界的打造者聊聊,畢竟我們得住在裡面。
--------------------
Medium 版:http://bit.ly/2HLuT8p
劉以勤wiki 在 台北市議員 - 李建昌 Facebook 八卦
5/27起北市分配到2.2萬劑AZ疫苗供第一線人員優先施打,而昨天第一批15萬劑的Morderna疫苗也已經抵達台灣,待檢驗完成,也會儘速施打。
最近關於各類疫苗大家議論紛紛,我覺得蕪菁雜誌這篇文章,值得閱讀廣傳!原來我們疫苗的老大還是老美!
引內文:
這幾天來關於疫苗的風風雨雨,我們已經看得太多。但是如果一切回到科學的角度,就知道每個國家疫苗策略的選擇,都有它背後的道理。台灣的疫苗策略,更是在重重限制下,深思熟慮後的結果。
🔹 美國:以壓倒性的技術力、後勤力和財力一決勝負
mRNA是相對高新的技術,這世界上能掌握此技術的,只有美國和歐洲的少數團隊。Moderna就是此一技術的大本營-哈佛大學的育成公司。而相關技術的另一位匈牙利裔的祖師爺,則是跑去德國主持BioNTech公司。
而美國自從一開始,就打算以壓倒性的技術力與後勤力一決勝負。除了扶植純美國血統的Moderna以外,也透過財雄勢大的輝瑞(Pfizer)和德國BioNTech合作。搞疫苗不是只有技術而已,臨床試驗、生產、藥證申請程序、通路,樣樣都要燒錢,而BioNTech的資源不足,而輝瑞則讓一切變得可能。作為交換,BNT疫苗也以輝瑞的名義,在美國在地生產,戰略資源完全不假他人之手。
然而mRNA疫苗對於冷鏈的要求很嚴格。輝瑞疫苗要-70℃冷鏈(雖然經過實驗後條件略有放寬),Moderna好一點是-20℃。要佈建冷鏈是非常龐大的基礎建設工程,而去年美國在川普總統任內,發動「神速作戰(Operation Warp Speed)」,砸大錢並動用美軍資源把如此嚴苛條件的冷鏈打通到全國各地。這個政績是連拜登都不得不稱讚的。
總之,美國就是有那個底氣,能夠把極嬌貴的高新技術疫苗,做到全國人人能打的程度。如果瞭解到這一點,就好像日軍參謀在太平洋戰爭中看到美國大兵在喝可樂吃漢堡一樣,對其後勤能力驚嘆不已。
🔹 英國:走成熟務實路線,但也有它的技術深度
英國當然沒辦法做到像美國這樣財大氣粗。英國/瑞典合資的阿利斯康(AstraZeneca),嚴格來說算是業務範圍很廣的綜合製藥公司,在疫苗方面不是特別地專業。所以「腺病毒載體疫苗」這個很成熟的技術,就成為一個好選項。
能夠研發腺病毒疫苗的國家很多,美國是一定有的(嬌生J&J),中國也能搞。但這裡「腺病毒載體」的腺病毒該怎麼選擇,就成了成功的關鍵。因為人類很多都感染過腺病毒(腺病毒是很多上呼吸感染的病原,換而言之你得過感冒就有很大機會感染過某種形式的腺病毒),如果你載體選用太常見的腺病毒,那疫苗打進體內,你的免疫系統就直接把它揪出來殺掉了,不會去學習腺病毒上搭載的武肺病毒片段,所以打了等於沒打。所以選用罕見的腺病毒就非常重要。像現在大家幾乎都不怎麼提中國的康希諾了,因為他家選用的腺病毒載體,是人體太過常見的Ad5。
這裡就可以看到英國的技術底蘊,其腺病毒載體來自於牛津大學長期研究的黑猩猩腺病毒,俗稱黑猩猩感冒病毒。它不但罕見也對人體幾乎無害。而黑猩猩腺病毒怎麼發現、怎麼取得的?自然就來自於英國長年的殖民地與熱帶流行病學研究經驗。
起頭選得好,接下來量產對於阿利斯康這種綜合製藥大廠,當然就比較不成問題。雖然腺病毒載體疫苗多多少少有點安全上的疑慮,但就像新聞講的,AZ疫苗打死人的機率比走在路上被雷打到還低。在疫情緊急的當下,仍是遠遠利大於弊的選項(但也因此德國政界與學術界一直想要打擊AZ疫苗)。
🔹 中國:瓦房店主義,馬馬虎虎求快求便宜
中國主打的國藥和科興,都是屬於所謂的「滅活疫苗」。滅活疫苗要搞很簡單,把真正的武漢肺炎病毒,拿去化學處理滅除它的活性,只剩下病毒的空殼子讓身體的免疫系統去學習產生抗體。滅活/減活的概念在人類醫學史上已經存在一兩百年了,大家耳熟能詳從小就打過的小兒麻痺的沙賓/沙克、日本腦炎、A肝等疫苗,都是典型且歷史悠久的滅活/減活疫苗。
但太過簡單的技術,往往意味著不好用。至少在武漢肺炎疫苗的領域裡,這個法則是成立的。首先,如果滅活不完整,以武肺病毒之刁鑽,很可能變成直接感染。至於效果,其引發的免疫反應,還有專一性(讓身體可以產生對抗武肺病毒的抗體,而非雜七雜八沒有用的抗體),先不說比不上最先端的mRNA,也比不上其他成熟的技術如腺病毒載體、蛋白質次單元等。而且還很容易造成疫苗不良反應。
但是中國哪管這些。能夠用最快的速度、最低的技術要求,生出一個還堪用的東西,把它倒給廣大的十四億人口(但中國人好像也不太領情),還可以順便搞搞疫苗外交,輸出給那些亞非拉的苦命兄弟們,這樣就夠了。實際的保護力?馬馬虎虎就好。不良反應?反正政府壓下消息,沒人會知道,也沒人敢知道。
中國滅活疫苗,是那些急於做做成績,「有打就好」的極權國家的的首選。
當然中國也有想要搞更高新技術的疫苗,例如以市場與藥證發放為籌碼,硬性要求BioNTech轉移mRNA技術,以中國在地廠商的名義生產。但中國人搞高新技術,都會有一種「瓦房店化」的現象,就是從國外引進了高科技,但是因為文化不合、政治掣肘、管理不善、勞動力素質跟不上,再加上國內粗製濫造的產品競爭…等等諸多因素,使得引進的高新技術「退化」。最極端的就是像搞半導體那樣砸了大錢結果顆粒無收,好一點就是做出來的產品總是有點差強人意。至於要不要信任中國的產品,就留待看倌們自行思考了。
🔹 台灣:在各種艱難處境中,走出一條折衷穩健路線
照理說台灣作為小國,是不指望在疫苗研發的大國競賽當中軋上一腳的。但是台灣很清楚自己在國際上孤立的處境,知道引進外國疫苗,勢必會受到那個流氓國家的各種阻撓。即使能夠順利打通通路,台灣的市場規模小,又不能像以色列這樣出三倍價錢搶貨,各大廠商也未必會把台灣放在優先供貨的順位。
因此台灣永遠都得做好「一切靠自己」的最壞打算。當然梭哈押寶於國產疫苗,對台灣風險太大,因此必須外購+國產,雙軌並重,盡可能打通每一條道路。這是台灣的命運,也是台灣的靈活度。
美國也充份瞭解台灣的難處。要知道美國自己也是疫情大國,在最高峰期的時候,是不是能拿疫苗支援盟友國家,美國自己也說不準。因此,美國做了一個罕見的決定,就是把美國國衛院的疫苗設計圖譜,授權給台灣自主研發。這個源頭等於是與Moderna同源。
好的開始是成功的一半,這一步美國是幫我們跨過去了。照理說拿到跟Moderna同樣的源頭,是不是可以直上mRNA技術呢?先不說台灣能不能掌握mRNA技術上,就算做得到,mRNA疫苗嚴苛的冷鏈要求,對台灣來說也是一大負擔。
因此台灣退一步,拿著這套圖譜,走重組蛋白質疫苗的路線(嚴格來說是『基因重組蛋白質次單元疫苗』,我不是太專業,以下就暫且簡稱蛋白質疫苗吧)。台灣長期研發生產的流感疫苗,就是屬於這類技術。以美國帶頭搞定的圖譜,來搭配台灣本來就駕輕就熟的技術,對台灣來說確實是最穩健可行的路線。
蛋白質疫苗不只是技術上穩健可行,而且有很多優點。首先,蛋白質的物性比mRNA穩定得多,也因此對冷鏈的要求不高,跟腺病毒疫苗差不多(2-8℃,大約是你家冰箱冷藏室的溫度)。第二,其誘發免疫反應的機制比較直接,所以理論上打完第一劑後,產生抗體的速度會比其他類型的疫苗更快。而且因為蛋白質疫苗不像腺病毒疫苗那樣,裡面還有部份活性的腺病毒(因此免疫力低下者與孕婦不能打AZ),所以安全性也更高,不輸給mRNA疫苗。
但蛋白質疫苗技術當然也有缺點。最大的缺點就是研發過程比mRNA、腺病毒、滅活等疫苗繁瑣得多,而且短期拼量產也比較困難。因此採用此一技術的美國Novavax、英國葛蘭素史克、法國賽諾菲,在進入市場時機上都比較落後。與他們相比,台灣的高端、聯亞並不算落後太多,國光則要再慢一些。
整體來說,國產蛋白質疫苗絕對是值得期待的。尤其它免疫反應強、對冷鏈要求低,在武肺疫情可能「流感化」永不消失的趨勢下,對於打進第三世界國家市場、吃長尾市場十分有利。但它的時程就是要慢上那麼一些,因此對台灣而言,在國產疫苗供應穩定之前,還是要盡可能保障外購疫苗的管道暢通。
🔹 關於三期試驗
我知道某陣營的網軍,一直在黑「國產疫苗沒有三期臨床試驗,是拿國民在當白老鼠」。但事實上,你如果去看看維基百科的條目(要看英文,https://en.wikipedia.org/wiki/COVID-19_vaccine ),不難發現,其實現在根本沒有哪家疫苗是跑完三期的。因為跑三期要收好幾萬個案,花上兩到三年不等的時間,大多數的廠商都是估計在2021下半年~2023才能跑完。唯一例外是輝瑞,可能真的本錢夠粗,能夠收夠案子提早解盲。
現在能夠上市的疫苗,都是跑完二期臨床,就趕快申請緊急授權。畢竟藥廠也好、人類也好,根本等不了那麼久。
而且三期臨床試驗也有一點醫學倫理上的灰色地帶。所以像中國、俄羅斯這種反正也不怎麼在乎人權,還有一堆也不怎麼在乎人權的盟友的國家,在這一點上就特別有利。而民主國家的廠商,也只能盡量把三期臨床試驗外包給較貧窮的國家,這也是大家心照不宣的業界現實。
🔹 寫在最後
稍早韓國以其戰略地位與半導體產能為籌碼,向美國爭取到Moderna疫苗授權代工。這算是韓國近期的一大外交勝利。台灣,以柯文哲為首,就開始逞其費拉話術,批評政府為什麼不要像韓國這樣,走比較簡單低風險的代工路線。
但請別忘記,韓國代工Moderna是這幾天才談成的,而台灣自主疫苗研發已經跑了一年多、進入二期了。台灣未必跑得比韓國慢。
這裡我要引用非主流歷史學家劉仲敬的兩句話:
「實際上所有能夠讓你和你的後裔往上走的方式都是費力的,尤其是危險的,危險比費力更重要。」
「上等人就是承擔風險的能力高於一般的人。」
是的,自主疫苗研發,比起代工來說,是一條艱難的路,也是一條高風險的路,很有可能大筆投入卻顆粒無收。
但是一旦修成正果,除了自救有餘以外,還能幫助他人(Taiwan can help!)。而樂觀點看,世界的疫苗市場將為我們開啟(當然中間還有很多政治難題要搞定,但至少我們做出了產品,不是嗎)。
不諱言,台灣在國際社會的處境,有如賤民一般。但人出身可以低、志氣不能短,愈是國際賤民,就愈是要證明自己的能耐。與大家共勉之。
( 原文連結:https://reurl.cc/R04gmr)
劉以勤wiki 在 志祺七七 X 圖文不符 Youtube 的評價
本集廣告與「圖文不符上課囉」合作播出
💭想利用線上課程開創被動收入嗎?
💭該如何將自己的知識 Knowhow 轉化成線上課程體裁呢?
打造十多堂熱銷課程、狂銷六萬多人
#圖文不符上課囉 暢銷線上課程的煉成心法,大・公・開!✨
志祺將在本場講座中,分享圖文不符上課囉的開課秘訣。
從市場、內容、講者三面向切入,帶大家了解一堂攻心線上課程該如何規劃設計,成為學員相互推薦的超人氣產品。
💡 本次講座在 OnlyTalk 獨家販售,只要 499 元就能無限次觀看,並獲得講座完整簡報!
👉🏻 開啟線上課程第一步,先從這裡開始!點擊連結了解更多內容 👉🏻 https://socialdon.group/onlytalk2-7
本集節目內容由志祺七七頻道製作,不代表「圖文不符上課囉」立場。
--
✔︎ 成為七七會員(幫助我們繼續日更,並享有會員專屬福利):http://bit.ly/shasha77_member
✔︎ 體驗志祺七七文章版:https://blog.simpleinfo.cc/shasha77
✔︎ 購買黃臭泥周邊商品: https://reurl.cc/Ezkbma 💛
✔︎ 訂閱志祺七七頻道: http://bit.ly/shasha77_subscribe
✔︎ 追蹤志祺IG :https://www.instagram.com/shasha77.daily
✔︎ 來看志祺七七粉專 :http://bit.ly/shasha77_fb
✔︎ 如果不便加入會員,也可從這裡贊助我們:https://bit.ly/support-shasha77
(請記得在贊助頁面留下您的email,以便我們寄送發票。若遇到金流問題,麻煩請聯繫:service@simpleinfo.cc)
#機師入境檢疫 #防疫破口
各節重點:
00:00 前導
01:22「暢銷線上課程的煉成心法」廣告段落
02:19 機師的規定到底長怎樣?
03:50 放寬規定的 3+11
05:14 為什麼要改回 3+11?
06:20 航空公司的配套措施
07:40 現行規定真的防得住嗎?
09:06 我們的觀點:隱藏在成功背後的防疫難題
10:20 我們的觀點:難題有解嗎?
12:12 提問
12:33 結尾
【 製作團隊 】
|企劃:宇軒
|腳本:宇軒
|編輯:土龍
|剪輯後製:Pookie
|剪輯助理:歆雅/珊珊
|演出:志祺
——
【 本集參考資料 】
→陳時中:2染疫機師病毒定序都是Delta 序列不同:https://bit.ly/2XBextU
→基因定序出爐 另兩名機師也是Delta:https://bit.ly/3zp91HA
→沒去桃園為何有細胞簡訊 莊人祥:雙北新竹高雄都可能收到:https://bit.ly/3AmE9ZG
→長榮航空證實開除案16120機師 違反3規定「決不寬貸」:https://bit.ly/3An1o5U
→機組員防疫QA (QA for Crew Epidemic Prevention Practices):https://bit.ly/3CiEblG
→武漢肺炎》一圖搞懂3+11 陳時中圖卡說明:只是回到去年制度並增採檢1次:https://bit.ly/3khyo9U
→空勤組員「3+11」是怎麼回事?該怎麼看? - 焦點事件:https://bit.ly/3zf6O1q
→COVID-19/機組員隔離新制反而關更久?指揮中心回應:尊重航空公司管理 - Heho健康 (4/15):https://bit.ly/2XzZCjD
→國籍航空機組員檢疫措施調整 未打疫苗者「7+7」新制7/1上路 - 中央社 (6/14):https://bit.ly/3lFnJ8J
→機組員防疫新制提前上路 完整接種者長程返台也要隔離檢疫 - 中央社 (9/3):https://bit.ly/3zvULNv
→CDC 的居家檢疫、自主健康管理的規定:https://bit.ly/3hJcPgY
→3+11爭議 - Wiki :https://bit.ly/3lCJW73
→華航群聚感染事件 - Wiki:https://bit.ly/39npQrH
→機師趴趴走?工會曝光外站:有人為防疫沒見到父母最後一面:https://bit.ly/3khhgBk
→曹雲臉書:https://bit.ly/3EsYJKa
→執勤+頻繁檢疫 7成機師嚴重失眠:https://bit.ly/3Emzx8a
→機師長期頻繁檢疫身心受影響 陳時中鬆口:天數會降:https://bit.ly/3tO4KMA
→談論相關3+11當初設計的緣由:https://bit.ly/3hFASxa
→【投書】一位機長的告白:我的「三級警戒」生活已經15個月 - 報導者 (2021.06):https://bit.ly/3hEITCD
→747貨機機長劉昭宜:連孩子都不能擁抱的日子(2021.02):https://bit.ly/3Am0CWN
→機組員不再只關3天!紐機師「害釀本土破口」衛福部祭2嚴防規定 - ETtoday新聞雲:https://bit.ly/3kjybTK
→航空貨運供給吃緊 4月承載率達71% 產業面臨巨大壓力 - 鉅亨網:https://bit.ly/3Ao8yGO
→市場復甦帶動空運需求暴增,但運載量不足情況持續存在 - DHL:https://bit.ly/3nKS8Fi
→【疫境求生】長榮拆客機座椅當「金雞母」 載貨飛美每趟賺1500萬 - 蘋果新聞網 (2020.06):https://bit.ly/2XvBiyM
→海運漲完換空運 華航兩岸運價9/2大調35% - 中時新聞網:https://bit.ly/3tPxm8k
\每週7天,每天7點,每次7分鐘,和我們一起了解更多有趣的生活議題吧!/
🥁七七仔們如果想寄東西關懷七七團隊與志祺,傳送門如下:
106台北市大安區羅斯福路二段111號8樓
🟢如有引用本頻道影片與相關品牌識別素材,請遵循此規範:http://bit.ly/shasha77_authorization
🟡如有業務需求,請洽:hi77@simpleinfo.cc
🔴如果影片內容有誤,歡迎來信勘誤:hey77@simpleinfo.cc

劉以勤wiki 在 主播劉以勤幾歲、劉以勤離婚、劉以勤婚姻在PTT/mobile01 ... 的八卦
主播劉以勤幾歲在寰宇新聞台灣台- 维基百科,自由的百科全书的討論與評價. 寰宇新聞台灣台(英語:Global News Taiwan),是台灣亞洲衛星電視股份有限公司旗下的衛星 ... ... <看更多>
劉以勤wiki 在 詹可旬年紀在Youtube上受歡迎的影片介紹|2022年04月 的八卦
詹可旬- 台灣棒球維基館。 [編輯] 基本資料. 出生日期:1992年09月01日(29歲); ... 主播劉以勤幾歲、劉以勤離婚、劉以勤婚姻在PTT/mobile01 . ... <看更多>
劉以勤wiki 在 主播劉以勤幾歲、劉以勤離婚、劉以勤婚姻在PTT/mobile01 ... 的八卦
主播劉以勤幾歲在寰宇新聞台灣台- 维基百科,自由的百科全书的討論與評價. 寰宇新聞台灣台(英語:Global News Taiwan),是台灣亞洲衛星電視股份有限公司旗下的衛星 ... ... <看更多>