跳到主要內容區
:::

中小學使用「生成式人工智慧」注意事項

近年來,「生成式人工智慧」(Generative AI)工具和「深偽技術」(Deepfake)等的蓬勃發展,為社會帶來許多新的機會和改變,這些技術改變了我們原本獲取知識、傳播訊息、創造內容的方式,同時也增加了許多使用風險。為了幫助中小學教師、行政人員及家長提升「生成式人工智慧」工具使用素養,以善用相關技術並避免造成誤用或濫用,提供以下六個要點作為使用參考。
一、 理解「生成式人工智慧」工具產生的內容可能有所偏誤:由於用來訓練生成式人工智慧工具的資料來自於既有的紀錄或經驗,如果這些訓練資料本身帶有成見及錯誤,那麼使用生成式人工智慧工具產出的結果就會有偏差或錯誤,且工具本身無法自行判斷所產出的結果是否正確和合理。所以當我們在使用生成式人工智慧工具時,應該檢視與審查其產生的結果,以確保其正確性和合乎常理。

二、 理解「生成式人工智慧」工具可能會減少訊息的多樣性:如果用來訓練生成式人工智慧工具的資料受到地域或文化的限制,且不夠多元廣泛,這些工具產生的結果可能僅能呈現單一文化的知識脈絡與觀點,甚至進一步強化原有的偏見。所以當我們在使用生成式人工智慧工具時,應該結合自己的經驗和批判性思維來檢視結果,而不是全盤接受生成的內容。

三、 理解「生成式人工智慧」內容的辨識工具僅能作為初步篩檢:隨著生成式人工智慧工具的快速發展,有許多可以協助辨識生產內容的工具。所以我們需要了解這些辨識工具有其限制性,只能作為輔助與參考,仍須仰賴常理、直覺和其他證據來協助辨識內容是否來自於生成式人工智慧工具。

四、 察覺「深偽技術」日益逼真會產生不實的內容:深偽技術是能修改臉部影像的深度仿造技術,原理是使用生成式人工智慧工具創建的虛假內容。這項技術能運用既有圖片、影像或聲音等素材,製造出看似真實的影片和圖像,甚至假新聞。所以當我們在觀看網路內容時,不要輕易相信未經審核的影片或照片,並留意該內容是否為深偽技術合成,和判斷可能的目的與動機。

五、 意識「生成式人工智慧」工具可能洩漏個人與組織的隱私與機密:部分用來訓練生成式人工智慧工具的資料庫目前在取得、儲存和使用上都還沒有完備的法令、規範及倫理上的監管機制,因此,在使用生成式人工智慧工具時,提供的個人資料、敏感訊息及機密數據,都可能會被收錄到訓練資料庫中,作為未來回應他人的內容。所以我們在使用生成式人工智慧工具時,應該審慎評估提供的資訊,是否具有機密性、隱私性與敏感性,以保護個人與組織的隱私與機密。

六、 避免過度依賴「生成式人工智慧」工具而侵犯智慧財產權與違反學術倫理:使用人工智慧工具生成教案、試題、計畫等相關教學內容時,須謹慎檢視內容及用詞是否符合教育現場的使用規範與標準。所以我們需規範使用生成式人工智慧於學業的時機與方式,並提醒學生使用時可能會侵害他人的智慧財產權,以及有違反學術倫理的疑慮,如沒有提供出處將造成概念上的抄襲。

生成式人工智慧技術的發展,為我們的生活帶來了許多便利,並廣泛運用在各種情境中,卻也伴隨著一定的風險和挑戰。在這個數位時代,我們應該保持對資訊來源的高度警覺,不要輕易相信未經證實的訊息,並學會如何辨別虛假資訊。同時,我們要提升自己思辨的能力,批判性地分析和評估生成式人工智慧工具所產生的內容,避免被誤導。遵守相關的道德和法律規範,確保使用生成式人工智慧工具時不違反社會常規與資訊倫理。最後,我們應該加強自己的數位素養能力,才能在享受科技進步帶來高度便利的同時,減少科技帶來的風險,讓負面影響降到最小。
瀏覽數:
登入成功