Posts

讀書筆記 - 李弘毅教授【生成式AI導論 2024】第1講：生成式AI是什麼？

-
Image
最近開始認真讀書，寫一些讀書筆記，今天是李弘毅教授的 2024 生成式 AI 導入系列的第 1 講。 生成式人工智慧 (Generative AI): 機器產生 (創造 = 泛指產生在訓練時沒有看過的東西) 複雜 ( 幾乎無法窮舉 ) 而有結構的物件 文章 - 由文字所構成 影像 - 由像素所構成 語音 - 由取樣點構成 反過來討論「何謂非生成式 AI」？ 分類 (Classification): 從「有限的」選項中做選擇 垃圾郵件偵測 (Yes / No) 貓狗分類器 (圖片類型分類，貓 or 狗) 生成式人工智慧，是人工智慧「眾多可能的目標之一」。 機器學習 (Machine Learning): 機器自動從「資料」找一個函式 使用機器，透過參數的輸入，套入既有算式，自動輸出/找出參數。 假設要讓機器學習如何分辨貓和狗 (輸入一張圖片，辨識出是貓或狗) 識別貓跟狗，需要有上萬個參數，這些 帶有大量未知參數的函式 ，就是 模型 機器學習，就是把上萬個參數「找出來」的過程 = 細訓練 (training) / learning 資料的輸入輸出的「限制」即為 訓練資料 「驗證」函式輸出結果即為 測試 testing / 推論 inference 現行慣用譬喻的類神經網路 (Neural Network)，即為有大量參數的函式 透過類神經網路把大量參數解出來的技術，就是 深度學習 (Deep Learning)  生成式人工智慧的「目標」並不一定要透過深度學習技術來達成，也可以用一般的機器學習來達成。 以機器學習/深度學習的概念，ChatGPT 可以被想像為一個函式，輸入是一段文字，透過巨量參數的語言模型，將輸入的文字拆解為一連串文字接龍的問題分類，最終輸出「 文字接龍 (合理範圍是有限的答案) 」後的合理答案。產生文章的概念，就是生成一連串較小單位的的文字。 ChatGPT 使用的語言模型是 Transformer。 AI 畫圖 (Stable Diffusion, Midjourney, DALL-E) 也都是函式，但使用的模型是輸入文字後，輸出圖片。 其中一種 Open AI 開發的圖片的 生成策略 ，是輸出一連串的像素，以某種固定順序依序生成為圖片，此生成技術稱為  Auto-regressive Generation → 但並沒有紅起來。 名詞關聯性：人工智慧
Post a Comment
Read more

【2023 應用心理學與實務研討會】AI 都不 AI 了 - 由 AI 生成到 AI 思維－AI 都不 AI 了，那人文與社會呢？（林文源）

-
AI 都不 AI 了，那人文與社會呢？（林文源－清華大學通識教育中心教授） Inter-promptivity 與 AI 互動的過程，當生成式內容（AIGC）的發展趨勢下，如何探索新 AI 時代與其共存的人文社會定位與思維？ 「互為主體」是形成社會的基礎，STS 主旨在思考人與物之間的關係，那衍伸人的共存（inter-subjectivity）到與 AI 共存，則是朝向 AI 與人文社會相互提示的 inter-promptivity。 Inter-promptivity：來自（資本化）AI 的七個提示（人文與社會、以及人社研究領域） 科技－社會想像力 誰的 AI 協作 公共性 基礎設施 生態圈 週期 STS 觀點 ：物做為行動者（non-human actor），從沉默之物，到 AI 生成介入 科技－社會想像力 (techno-social imaginaries) ：一種由科技與社會實作進展所支持與達成的社會生活形式與社會秩序的共享理解所形成的概念凝聚，受到集體信奉、制度性穩定、公共展演視野中的可欲未來。 夢想地景 (dream-scape) ：多重社會存在與各種權力介入的可能性與想像競逐與併陳 (Jasanoff & Kim, 2015) 相較於資本化的 AI，人文社會的 AI？AI 為誰落地？ HSS in AI: AI 造成公共性危機 HSS of AI: 以公共性理念批判分析 HSS by AI: 以 AI 拓展公共性 HSS for AI: 人社理念做為 AI 核心（scope 最大） 誰的 AI？ AI 的出現在各個領域出現很多建置場景，產生很多流程，包含法規環境、教育訓練、資源配置等，但我們是資本化思維、工具性思維或批判性思維？或是，湧現 (emergent properties) 其他方向？ AI 不斷在促使人類探索新的方向。 關鍵提問： 誰的問題 誰的資料 誰的演算法 誰的詮釋與應用 而這些提問之後，人文社會要從什麼角度參與協作？ 誰的數據？ 數據化現實 vs. 非數據 (non-)：無法進入生產、觀測、資料收集過程者 訓練資料 vs. 後 (Meta-) 數據：數據格式、標註與訓練過程引發的互動式後果 資料應用 vs. 底層 (infra-) 數據：仰賴資料的基礎設施中介的新社會現實 大 vs. 厚 (thick) 數據：數據解釋 vs
Post a Comment
Read more

【2023 應用心理學與實務研討會】AI 都不 AI 了 - 由 AI 生成到 AI 思維－生成式人工智慧相關法律問題初探（余啟民）

-
生成式人工智慧相關法律問題初探（余啟民－東吳大學法律學系副教授） 生成式 AI 簡介 聊天生成型預訓練變換模型 (Generative Pre-trained Transformer) Answer follow-up questions Admit its mistakes Challenge incorrect premises Reject inappropriate requests（把問題反過來，會得到原本得不到的答案） AIGC (AI Generated Content) 的加速度，有望成為數位內容創新發展的新引擎： 深度學習模型不斷完善（優於人類的製造能力和知識水平，承擔訊息挖掘、素材調用、復刻編輯等基礎性機械勞動） 開放模式加速推動 大模型商業化的探索進展 ChatGPT & AIGC 既有功能（不牽涉到資訊安全問題的範疇）： 自動客服 自然語言生成 自動摘要和翻譯 語言生成和文本寫作 衍生來說有許多應用場景可嘗試： 客戶服務 在線教育（可以彌補師資的不足，但需考慮內容的正確性） 醫療健康（無法替代醫師的望聞問切，僅是 assist 的角度） 金融服務（但大數據可能被用於定價陷阱，熟客報價高於新客） 零售業 AIGC 可以在媒體上有很好的應用，如數位化身、虛擬網紅等，各項傳統娛樂影音產業的內容產出都有非常靈活的應用。 人工智慧應用對現代社會的風險挑戰的 11 個倫理困境 經濟不平等與勞動力問題 對人類行為的影響 在預測性功能與判斷性上偏見歧視（AI 透明度） 誤傳和幾近擬真的偽造（DeepFake） 隱私保護和安全性（Safety and Security） 軍事與情報應用 機器人霸主（超強 AI）的出現與中止 人工智慧的人格化探討 AI 也會犯錯 AI 相關的法律規定與監管 假如有道德的 AI 是不可能存在？ Refer to: "Discovering and enacting the path to safe artificial general intelligence." (Open AI, 2020) Trustworthy and Responsible AI  Trustworthy  AI 可信賴的 AI（歐盟立法傾向此用語） AI Cybersecurity 本質在於 AI 的可信賴問題，其實涉及了
Post a Comment
Read more

【2023 應用心理學與實務研討會】AI 都不 AI 了 - 由 AI 生成到 AI 思維－資料科學家玩 AIGC（謝宗震）

-
資料科學家玩 AIGC（謝宗震－CHIMES AI 執行長） 是清大校友！看起來是個非常浪漫的人（推動新趨勢的人我一概歸類到浪漫的人），本日目標跟大家分享在 AI 浪潮中，要如何對焦自己的心態與目光，因應整體的趨勢。 當 AI 門檻降低時，Chimes AI 思考自己要做什麼？他們給自己的目標是「平民化 AI，像用電依樣自然」。 首先，討論到資料科學家的工作日常（後來發現這是小彩蛋，這段是 ChatGPT 生成的）： User Case Data Collection Data Extraction Model Building Model Evaluation Model Packaging（封裝模型，把 AI 的應用讓大家看的到或是周知大眾） Prediction API Predictive Dashboard Data Collection and Cleaning  Acquiring Data - Find and gather the relevant data from various sources, including public databases and private records. Exploratory Data Analysis  Regression Analysis Time Series Analysis Hypothesis Testing (Formulate hypotheses and use statistical tests to evaluate their validity( Classification (Predict categorical outcomes based on input variables.) Data Preprocessing  Feature Engineering Machine Learning and Deep Learning   Machine Learning Deep Learning  Artificial Intelligence Data Visualization and Reporting Data Reporting  Data Visualization Dashboards and Interactive Visualizations  透過資料分析
Post a Comment
Read more

【2023 應用心理學與實務研討會】AI 都不 AI 了 - 由 AI 生成到 AI 思維－ChatGPT 的解析與挑戰（陳縕儂）

-
ChatGPT 的解析與挑戰（陳縕儂－台灣大學資訊工程學系副教授） 陳縕儂用了一張 Midjourney 的生成圖做為開場，形塑出一位潮流女孩的工作環境，除了自己的電腦和周邊鍵盤外，螢幕上投映著「ChatGPT」的大字，試圖描繪出未來大家的工作想像圖 - 除了自己的工作內容之外，ChatGPT 可能常伴左右在協助各種任務。 AI & ML 首先定義 AI 這個字，我們現在看到的生成式 AI，是偏向 Synthesizing 的類型。而達成 AI 的方法有很多種，Machine learning (ML) 就是其中一種手段，並非所有的 AI 都需要應用 Machine learning，只是近期最熱門的 AI 是透過 ML 達成的 AI。 大家最常看到的 LINE 聊天機器人，其實內部沒有什麼 ML，只是確實是有很多模組的 AI。 Machine Learning 的訓練，陳縕儂用了一些例子：Looking for a Function      Task: predicting positive or negative given a product review 套用一些規則，讓機器自己去學習，把「輸入」變成「輸出」，Given a large amount of data, the machine learns what to output (後半句沒看清楚)。 「在訓練機器學習之前，首先需要有人工學習（工人智慧）」，需要提供非常大量的資料和資訊才能讓機器去運算出預期中的輸出 f(x)。 人類的學習能力金字塔，知識建構，是從低階知識到高階知識（請想像底下是一個金字塔，有底層的 Low-order thinking skills 到高階的知識） Learning Pyramid (Bloom's Taxonomy, 2001) Create (Use information to create some thing new) Evaluate (Examine information and make judgments) Analyze (Take apart the known and identify relationships) Apply (Use information in a new but similiar situation)
Post a Comment
Read more

【2023 應用心理學與實務研討會】AI 都不 AI 了 - 由 AI 生成到 AI 思維－生成藝術的創意空間（李怡志）

-
生成藝術的創意空間（李怡志－政治大學新聞學系助理教授）   Generative Art 生成藝術是什麼？這是一個已經存在很久的概念，從 1963 年就有人做圖像，在討論生成藝術時，需要先討論人類在生成藝術的時候的思考方式： Precise Aesthetics Process by Designers →  Ideation / Execution / Appreciation 三者很靠近且重疊 但若是 Precise Aesthetics Process by Non-Designers →  Ideation, Execution, Appreciation 三者是獨立的 生成圖像的特性，Randomness, Unpreditorable 是重點。目前產出的作品，有幾種對人類可分類的價值類型：Self-expression, Serendipity (偶遇) , Surprise（可以激發人類的想像力）, Evolutional（對 prompt 的指令是逐漸逼近）。 Ways of Seeing - AI  生成圖像的背後也是大型模型，要看 meta-data 是如何整合。AI 對文字的理解有非常多面，我們需要知道如何運作，才知道如何下指令。可以嘗試搭配 ChatGPT 產出的 prompt 再倒給 Midjourney 繪圖，可以完全 break normal rules，做出架空的東西。 Non-Generative Process 是從開放到收斂的模型，當 Concept Sketch 定義好，路徑就會瞬間收斂。 (News) Infographics Project Procedure: Prepare > Investigation > Design > Final Work 人類傳統的 Level of Sketches: Research (What to Sketches) Information Elements Concept Sketch Layout Sketch Real Size Sketch Final Work  人類傳統在進行設計，從草稿到完稿的距離非常的接近。 AI Generative Process （李怡志總結） Variate (小的變異) Randomize (寫了 prompt 後會出現一些
Post a Comment
Read more

【2023 應用心理學與實務研討會】AI 都不 AI 了 - 由 AI 生成到 AI 思維－開場（陳書儀、汪曼穎）

-
多年前一次在東吳心理整天的研討會，我認識了好些 UX 界大前輩，那時候應該也是汪曼穎教授主辦吧，雖然沒有去印證我的記憶，但回到了這裡，真的充滿感觸，只希望在追求知識的道路上，過了多年，我還是我。 於是開始了，好久不見的 Max 老師上台（你不只是凍齡，還凍結了時間吧！），以快速精準的開場，毫無頓點也毫無贅字的開場，把上下午的 AI 議題與現今大家所面臨的挑戰和趨勢做了介紹和熱身，但有點簡短，短到我好像不知道要寫什麼。 那就來吧！第一場！ 突然想到，以後寫筆記這件事情，是不是用 GPT/AI 就可以啦？但這不影響寫筆記輔助我自己吸收這件事情啦。
Post a Comment
Read more