本篇內容來自OpenAI Applied AI 團隊的 Shyamal Hitesh Anadkat 的最新 Blog，Shyamal 目前在@OpenAI 負責不同的應用的市場推廣策略，如ChatGPT、Dalle 。
Shyamal 帶我們從 OpenAI 的視角，感受 AI 行業的真正變化與真實洞察，全文內容分 6 節，如下：
- 前言；
- AI 原生 vs AI 賦能；
- 基礎設施、工具和技術；
- 應用、影響和垂直領域；
- 創始人的AI-IMPACT框架；
- 對於新創企業的機會；
原文連結：https://shyamal.me/blog/frontiers-startups-2023+
Shyamal 的前言
過去一年變得異常激動人心又有成就感。激動人心是因為 AI 的快速發展，讓人感到異常驚奇；而成就感則來自於人們對語言使用者介面的熱愛以及社區對 AI 與人類共同創作的支持。ChatGPT給很多人帶來了一種激動人心的感覺，就像他們第一次玩電腦時那種刺激。我聽朋友說過：「他們感覺自己就像第一次來公園玩一樣，嘗試新鮮事物，一玩完一個就迫不及待地跳到下一個項目。」
到目前為止， AI 帶來了更多好處，我們也更加明白了錯位的重要性和嚴重性。2022/3年是人類與人類共同建構未來的重要里程碑。
ChatGPT已經變得不可或缺， AI 以及支持它的相關領域也成為發展社會和系統的關鍵組成部分。基礎模型正在變得多模態、更有能力、更加協調和更加安全——gpt4可能是人類迄今為止最複雜的軟體。技術正在突破邊界，簡化我們對互聯網的複雜性以及人類推理和思考的理解。
傳統軟體曾主宰世界，而 AI ，特別是生成式 AI ，正在主宰軟體，推動著創新浪潮，重塑我們與技術互動的方式，重新定義創造力和智能的本質。
AI 不僅是一項具有顛覆性的前沿技術，更是每個人都想要的一種工具，我們必須加以利用、引導和建立防護措施。重要的是要指出， AI 非常令人興奮，其潛力似乎無限，但我們不能忽視 AI 錯位的風險，我們每個人都有責任確保這項技術體現我們共同的價值觀和倫理這是一段激動人心的旅程，但安全必須是不可讓步的首要任務。
讓我們探索一些關鍵領域取得的進展以及決定新創公司成功的因素。請注意，由於現在仍然是早期階段，很難預測未來，所以請謹慎對待本文中的任何推測。
AI 原生 vs AI 賦能
AI的最重要的發展之一就是新的交互範式和能力的出現，這導致了許多「AI x ...」類的項目的出現，比如AI x 律師、AI x 導師、AI x 保險核保員、AI x 教練等等。全球各地的許多團隊正在追求這些激進的想法，只是時間問題，其中一些項目將變得家喻戶曉。
最有用的生成式 AI 應用 程式出現在驗證一個生成的成果的準確性、質量和完整性所需的時間和精力顯著少於最新創建它的時間和精力的領域。
例如，一個會計師可以在短時間內驗證一個個人稅務申報表，而不是從頭開始創建一個。隨著時間的推移，這種分配可能會向另一個方向轉變（我們將越來越難以驗證由 AI 生成的成果，包括新的科學研究）。
隨著我們需求層次的發展，旨在簡化的技術抽象也在不斷進步。AI-enabled（AI增強型）的體驗將AI引入人們現有的工作流程和工具中。
與此同時，AI-native（原生AI）的新創公司從AI優先的原則出發，通過自然語言重新定義與每個軟體的交互，關注的是工作本身，而無需用戶擔心與特定工具和使用者介面的複雜性。語言是最高級別的抽象，也可能是我們與人類和機器交流的最有效方式，至少在我們找到神經介面之前是這樣。
我們希望能有一個友好的助手，能夠像我們一樣體驗世界，幫助我們實現目標，規劃我們的一天，自動化知識工作，為企業提供強大支持，幫助人類解決癌症和太空探索等問題，增強我們的優勢，並讓我們更加幸福。ChatGPT和外掛模式是少數幾個能夠以規模幫助人類進步的顛覆性技術之一，它體現了這一趨勢。
這些技術繼續推動我們所能取得的成就的邊界，成為各種創造性和推理任務的乘數效應。此外，提高我們的學習、溝通和創造能力將對我們的生活和工作產生深遠的影響。
應用層正致力於自動化高度重複的任務和/或增強與人類合作的能力，B2B新創公司正努力將AI引入業務工作流程，採用差異化的用戶體驗、自然語言介面和處理大規模非結構化數據的新方法。
隨著這一領域的成熟，我們正在見證像NotionAI這樣的AI-enabled產品的採用，這些產品將基礎模型整合到現有的工作流程和產品中，以及像Descript這樣重新設想影片編輯和內容創作的AI-native平台。基於AI的個人助手簡化了消費者的交互層，使他們能夠使用自然語言完成目標驅動的任務。
AI的價值不僅在於生成更高質量的內容，還在於能夠從大量的資訊中提取有意義的信號並減少資訊過載。通過從噪音中提取有意義的信號，AI變得不可或缺。
基礎設施、工具和技術
在基礎設施和工具層面，我們正在看到一個堆棧的出現——新的基本組件和LLMOps平台降低了進入門檻，並加速了大規模創建LLM應用 程式的過程。
Langchain成為這個堆棧中的重要組成部分，它使建構數據感知和代理式LLM應用 程式更加容易，並簡化了部署過程。Portkey正在建構一個監控、模型管理等方面的LMOps堆棧，而Vellum正在開發一個用於LLM應用 程式的開發平台。像AirOps這樣的公司正在創建允許企業以結構化、可預測的方式將 AI 應用於工作流程的平台，這些平台可以根據特定的業務環境進行定製。
向量資料庫正成為堆棧的關鍵組成部分，因為嵌入向量為建構具有檢索和搜索功能的LLM應用 程式提供了動力。Weaviate是一家正在建構開放原始碼AI原生向量資料庫的公司。我們很可能會看到一系列平台的出現，旨在幫助追蹤和評估LLM工作流程，減少幻覺，使模型更易控制，簡化數據安全，並提供能夠為基於AI的應用 程式提供倫理準備和完整性的工具。
LLMOps仍處於初級階段，大致分為以下幾個類別：
- 提示管理和評估（提示工程、審核、跟蹤、A/B測試、提示連結、調試提示、評估等）。這還包括跨多個基礎模型提供商進行提示連結；
- 無程式碼/低程式碼微調/嵌入管理（包括用於在特定數據集上重新訓練通用模型的工具，標記、清洗等）
- 代理整合/基於行動的LLM決策，執行行動，目標規劃，與外部世界介面等；
- 分析/可觀察性——成本、延遲、速率限制管理、可解釋性等。在這個領域的開放原始碼項目應該至少要考慮兩次產品市場適應性——首先是為了在項目周圍創造價值和社區，其次是在將業務與之結合時。創建一個可靠和適應性強的基礎設施和工具層將幫助我們為更多用戶和應用釋放LLM的潛力和價值。
就像半導體晶元經歷了商品化過程一樣，基礎模型（OpenAI、Anthropic等）現在也走上了類似的道路。由於創新的不懈推進，當今的前沿LLM很快就會成為明天的標準，價值焦點從簡單的擁有轉向了獨特的應用、定製和整合。
因此，**競爭力不是來自技術的獲取，而是來自創新和應用。**開放原始碼和專有的LLM在這個不斷演變的範式中都有各自的角色，企業需要根據其獨特的權衡平衡來做出選擇，包括安全性、安全性、許可、微調、性能、成本、延遲和能力等方面。
基於開放原始碼基礎模型可能會落後于幾代，主要是由於計算能力、資金、數據和對齊進展等方面的限制，但它們對於一些業務工作流程來說仍然是至關重要的。對更多數據進行訓練以訓練更小的模型已經顯示出一定的成功，某些基準測試中表現優於較大的模型。
此外，使這類模型更易訪問的目標也取得了一定的成功，例如Meta的LLaMa和斯坦福大學的Alpaca模型可供研究人員甚至愛好者訓練和運行。總體而言，對於利用生成式 AI 模型的建構者來說，重點應該放在領域專業化和建構用戶喜愛的產品上，而不是關注底層技術。
為了彌合基礎模型與其實際應用之間的鴻溝，邊緣計算成為部署這些模型、推動 AI 創新進入新領域的強大平台。
今年早些時候，高通 AI 研究成功地通過全棧AI優化在邊緣設備上部署了一個流行的10億+參數的基礎模型（穩定擴散）。邊緣 AI 由於其即時數據處理能力、改善隱私和增強安全性的能力而變得至關重要。由於設備普及了大量感測器產生的海量數據，邊緣 AI 在各個垂直領域的重要性日益凸顯。基礎模型的複雜性和資源需求給邊緣設備上的部署帶來了挑戰。
為了應對這一挑戰，重點將轉向專用硬體、優化技術和神經處理器架構。能夠在邊緣/設備上運行經過優化的基礎模型將開啟無限的可能性。為了應對這些新需求，BrainChip提供了創新的解決方案，如Akida處理器，這是一種用於邊緣 AI 的先進神經處理系統。了解和評估邊緣 AI 技術對於克服部署挑戰並探索新潛力至關重要。
應用、影響和垂直領域
技術的融合是真實存在的，我們正處在降低創造力和智能邊際成本的邊緣，發生了很多變化。在企業堆棧層面上，我們看到了利用生成式 AI 在市場行銷、銷售、生產力、安全性、客戶支持等方面加速增長的趨勢。
隨著語言模型在推理、事實性和可控性方面的不斷提升，我們自然而然地看到它們在法律、醫療保健、教育、建築、氣候和創意領域等多個垂直領域得到採用。讓我們從影響最大的領域開始。
1）教育
例如，在教育領域，可汗學院利用GPT-4驅動Khanmigo，這是一個為學生提供虛擬輔導員和教師助手功能的AI助手。
AI 有潛力為地球上每一個學生提供個性化、低成本的輔導，這讓我感到非常激動。通過課程重新設計、意識提高和gptzero等工具，我們正在更好地解決關於LLM在課堂上抄襲的擔憂，例如，紐約市公立學校最近撤銷了對ChatGPT的禁令，因為他們意識到並接受了它在教師和學生中的潛力；它是一個偉大的頭腦風暴和創造力的夥伴。
2）醫療
**在人機協作的醫療保健領域，將重新定義。**例如，Ambience的AutoScribe全面捕捉每個患者的細節，不需要虛擬或現場人工記錄員。Glass Health是該領域的另一家新創公司，正在為臨床醫生建構一個人機協作的決策平台。他們的平台將LLM與由臨床醫生創建和維護的臨床知識資料庫相結合，生成DDx和臨床計劃的輸出。這兩個平台使醫生能夠花更多時間與患者交流，並自動化單調的行政工作。
我們還看到了基礎層面的機會——Hippocratic AI正在為醫療保健建構一個以安全為重點的LLM，該模型在114項醫療保健考試和認證中超過了GPT-4的105項。心理健康正變得更加民主化和易於獲得。
**全球心理健康狀況下降，以極低成本提供高效個性化的心理健康服務從未如此具有挑戰性。**Kai.ai正在建構一個AI健康伴侶，幫助您感到更快樂、更平靜，並成為最好的自己。
照料他人是另一個領域，AI驅動的解決方案如ChatGPT具有民主化和革命化的潛力。通過將用戶連接到支持小組、經濟援助和休息護理服務，ChatGPT可以改變照料他人的方式。例如，Milo（Converge公司）正在為父母建構一個共同駕駛員，通過處理日常細節為忙碌的父母節省時間和精力：「通過將人與最新的LLM功能結合起來，我們能夠通過簡單的對話簡訊介面有效地建構一個用於詳細、高上下文和嘈雜任務的共同駕駛員。」
3）科研
在科學研究方面，進展令人鼓舞。**在藥物研發領域，我們已經處於生成式 AI 的前沿，幫助加速新藥物的開發並降低不良副作用的可能性。**例如，E-Therapeutics正在利用LLM進一步自動化尋找新藥物靶點的探索，尤其是基因沉默方面。
此外，研究的方式也將發生變化——Ought正在建構一個名為Elicit的AI研究助手，幫助自動化研究工作流程。同時，我們正在建立更好的工具來評估性能良好的基礎模型提出的科學論斷。強大的評估框架和特定用例的評估是邁向這一目標的一步。
4）客服
**客戶服務和支持工程將逐漸轉向減少人為參與，使企業能夠更好地傾聽客戶需求並以客戶為中心。**舉個例子，Kapa正在為面向開發者的產品建構ChatGPT，通過學習開發者文檔、教程、聊天記錄和GitHub問題來自動生成回答開發者問題的聊天機器人。
在基於行動的客戶服務自動化領域，Ada正在用LLM徹底改變客戶體驗。「Ada已經在使用GPT-3自動化客戶意圖的培訓，並將通過自動建構答案流程和內容來進一步推動整合。Ada還在嘗試使用生成式 AI 來增強提供給機器人建構者和現場代理人的對話洞察力。」Ada的解決引擎連接到業務系統，並採取行動改善解決方案。
隨著我們向著「5級」客戶服務自動化邁進，我們的成功指標和關注點應更多地圍繞解決方案而不是轉接。此外，我相信這樣的系統將更好地理解複雜的意圖、連貫的回應、代表用戶採取行動、微調客戶數據、自動化工作流程和內容生成，並高效地與人類進行交互。
5）招募
**基礎模型使招募和人力資源營運變得更加簡單。**Dover正在為其平台開發深度AI個性化和定製招募解決方案。他們已經建構了一個招募共同駕駛員的版本，簡化了招募流程。類似的，像CoderPad這樣的程式碼面試平台也整合了AI聊天功能，旨在實現協作，允許候選人和面試官查看和與AI標籤進行交互。
6）編程
我們還在重新發明軟體工程的方式，重新定義和強化SDLC。五年前，想象一下程式碼生成只需要這麼簡單是難以置信的。如今，我們有了像Copilot這樣的AI協作 程式員，帶來了編程的樂趣，讓開發者能夠保持專注，使開發者滿意度提高60-75%。
我們還看到了自動化程式碼文檔的IDE外掛，如Mintlify，以及用於單元測試的共同駕駛員Codium和用於搜索和理解大型程式碼庫的Buildt。
Replit允許用戶直接從瀏覽器建構、測試和部署程式碼，而他們的多人遊戲和幽靈寫手功能增強了程式碼協作。同時，
Cursor正在為 程式員建構一個AI本地IDE體驗。Copilot的推廣推動了開發者生產力的提升。
7）其它垂域
在法律領域，像Harvey這樣的新創公司正在為律師建構共同駕駛員，為他們的工作流程提供強大支持，並投資于建立在知識工作中建立信任的最佳案例系統。隨著 AI 不斷改變法律行業，我們可能需要重新考慮圍繞按小時計費的激勵結構，因為關注點轉向創造過程和產生的價值。
系統整合商也受益於 AI 的進展。像Distyl這樣的服務提供商正在出現，幫助企業提供定製的 AI 解決方案。
正如Ness為全球資本市場提供交易、風險和雲服務一樣，服務提供商將致力於為在這些聯盟中取得成功的金融部門帶來生成式 AI 解決方案。
在國防領域，Scale AI與XVIII空降軍合作，將LLM首次部署到美國政府的保密網路上。該公司的聯邦AI平台Scale Donovan幫助營運人員、分析師和決策者在幾分鐘內理解、規劃和行動，而不是幾周。該平台還利用來自人類回饋的強化學習持續優化技術，更好地支持任務目標。
令人鼓舞的是，這種可及性已經觸及了印度最偏遠的城鎮和村莊：一個例子就是KissanAI為印度農民建構了一個助手，通過ASR和LLM API以及農業專家知識為他們提供多語言聊天機器人，使他們能夠做出更明智的決策並優化他們的經營。這個項目使國家農業熱線得以擴展，並得到了印度政府的支持。
8）消費領域
**類似的助手和共同駕駛員式的交互範式正在內容生成、遊戲、購物、旅行、金融、消費品、醫療保健、客戶服務、語言學習等垂直領域中得到建設。**這裡只是提及一些我想到的例子（不一定是最好的）：
Jasper正在探索麵向企業和平台的發展方向，建構一個可以為企業使用的寫作助手的智能層。
在旅遊領域，Navan已經在他們的產品中整合了OpenAI和ChatGPT，利用他們的虛擬助手Ava來個性化推薦並增加旅行者的參與度。
在語言學習領域，Quazel正在利用LLM，押注于定期練習口語作為學習新語言的最簡單方式。類似地，Speak開發了一系列內容體驗，允許學習者在英語對話中進行練習，模擬日常場景和交互。
在消費品領域，Turing Labs允許消費品公司使用 AI 快速探索和評估配方理念，通過傳統流程比減少了數月的時間。
在遊戲領域，Latitude正在建構生成式 AI 遊戲，利用生成式 AI 即時創建內容，並允許開發者創建更具吸引力和交互性的遊戲體驗。Unakin正在為遊戲工作室建構一個AI共同駕駛員。
生成模型的非確定性特性可以為遊戲開發者和玩家提供靈感。此外，AI與遊戲的結合可以豐富非玩家角色（NPC）、開發關卡、幫助管理遊戲體驗的複雜性和一致性、增強圖形效果，並創造強大的故事情節。
最後，在內容創作方面，用戶更喜歡用戶生成的內容來做出購買決策。隨著功能更強大的生成式模型，創建個性化、高質量的內容的成本正在降低。人類喜歡引人入勝的故事，像Tome這樣的新創公司讓每個人都能講一個引人入勝的故事。
這個年度的AI 50名單（由Sequoia視覺化）只是對這些垂直領域和未來工作的一瞥。
創始人的AI-IMPACT框架
隨著對於利用LLM供應商創建壁壘的疑慮漸漸消退，我們意識到平台並不能保證平等。這就像遊戲主機已經存在幾十年了，但遊戲開發者仍然在競相開發最具沉浸感的遊戲。這突顯了關注創業公司能帶來的獨特價值的重要性，而不是僅僅依賴於底層平台。
顛覆和創新者的困境是不斷重複和無法否認的現象，創業公司在探索這個新領域的複雜性中發揮著關鍵作用。處於這個領域的建設者們在詢問，在他們抵達這個拐點時需要記住哪些重要事項。
這裡有一個希望更容易記住的框架：AI-IMPACT框架，我相信它將有助於引導建設者追求AI-enabled 和AI-native的產品，讓人們喜愛，快速交付並形成緊密的回饋循環，同時建立一個數據飛輪。以下是該框架的幾個要點：
- Authenticity 真實性：**建立獨特的聲音和價值主張。專注於解決問題的專業知識和解決方案，而不僅僅依賴底層平台。真實性應該來自問題、數據和解決方案的獨特性，而不是基礎的基礎模型提供商。
- Interaction 互動：**設計直觀、無縫的語言使用者介面，符合用戶的使用習慣。隨著技術的發展，使用者介面可能會簡化（例如自動駕駛汽車）。設計讓人愉悅和信任的介面。
- Moonshots 野心目標：**追求具有改變行業和重新定義技術互動潛力的雄心勃勃的變革性想法。旨在推出對生活有積極影響的高影響力產品和體驗。
- Personalization 個性化：**利用 AI 根據用戶的需求、偏好和目標提供個性化的體驗。通過基於數據驅動的洞察力定製產品，提高相關性和參與度。
- Alignment 對齊性：**確保應用 程式和系統與人類的價值觀和道德相一致。優先考慮安全、負責任的AI開發以及技術和風險的透明度。在一開始就設定用戶的期望，並通過人類參與來管理風險。
- Commitment towards shipping 承諾交付：**經常並漸進地交付，保持緊密的回饋循環。在快速發展的技術和不斷變化的用戶行為中保持敏捷和適應性。以用戶的喜愛為目標。
- Technology Convergence 技術融合：**利用 AI 、 虛擬實境、量子計算和邊緣計算等技術的融合，建構能夠推動可行性邊界並與用戶產生共鳴的以人為中心的解決方案，推動行業的有意義變革。
對於新創企業的機會
通過了解客戶的問題、轉變用戶行為，並保持對長期願景的敏銳關注，新創企業可以利用這股新的動力來重塑世界、造福人類。未來的總市場潛力巨大，如果你擁有真實的聲音，有很多方法可以獲勝。
高效團隊、專注明確願景並致力於目標的高績效新創企業，獲勝的機率更高。我與最好的創始人和團隊合作時發現，他們對問題充滿激情，具備較高的情商，不會無意識地基於他們的習慣行事，具備第二系統思維，靈活適應，並且習慣於做出長期的大賭注——考慮的是幾十年的時間，而不是幾天。
我們應該鼓勵自己致力於那些潛在 AI 商務機會遠遠大於被認為真正下降空間的想法；選擇贏得勝利而不是賭博以避免損失。
互聯網給新創企業帶來了比現有企業更多的價值（如亞馬遜與書店之間的競爭），移動轉變為現有企業創造了新的商機，所以這並沒有帶來太大的轉變。但我相信，由於AI的能力、新的互動範式和用戶行為的轉變，目前是幾十年來新創企業首次有機會打破現有企業的格局。
我認識的每個 AI 從業者都非常興奮，都在「探索與建構基於 AI 的模式」中。為新創做好準備吧。我們談論的是非常規的國內生產總值增長，足以支持普遍基本收入，提高人類生活水平，保護我們的基本權利，延長我們的壽命，使我們更加幸福和滿足。
本文來源：OpenAI Shyamal 分享LLM 創業前沿方向，我們所處的歷史階段，AI-IMPACT框架！
