在自動化中實施AI的五大挑戰
發布時間：2023-08-21 www.xstr.xyz
在自動化和流程協作中實現人工智能（AI）具有巨大的潛力，可以提高效率、流程有效性和獲得更好的業務成果。通過正確的專業知識、合作伙伴關系和人工監督，AI系統在自動化環境中可以非常有效。
在帶來回報的同時，AI為現實世界中的工業應用也帶來了一定的挑戰和風險。除了一些AI領導者發現的更深層次的生存威脅在外，在將AI添加到您的超自動化技術堆棧中之前，還有一些實際的考慮因素需要牢記。以下是自動化領域中AI實施帶來的一些關鍵挑戰，以及如何解決這些挑戰的建議。
1. 機器學習的數據可用性
雖然這聽起來像是一個簡單的問題，但現實是為機器學習模型準備數據往往是一個巨大的挑戰。相關調查顯示，數據科學家和數據工程師通常將 80% 的精力用于數據準備。
如果沒有為 AI 設計的純凈數據，就不可能訓練出適合的 AI 模型以使其為生產做好準備。不幸的是，失敗經常發生。市場研究公司Gartner發現，85%的AI項目未能交付，只有53%的項目最終實現了從原型到投產。
許多企業提供為機器學習準備的數據集以用于自動化領域，例如用于不斷改進過程模型的流程執行數據，這加快了培訓進度，并大大減少了數據科學家和數據工程師所需的工作量。從而使這些供不應求的高價值員工，可以將時間分配到其他關鍵的任務。
2. 模型中的準確性問題和偏差
準確性和偏差是人工智能應用中兩個關鍵但反復出現的問題，需要人類的監督。例如，生成式AI應用程序容易產生幻覺，或者根據其訓練數據集編造事實。
同樣，將有偏差的數據集輸入到機器學習模型也可能會產生有偏見的結果。例如，如果一家金融服務公司正在使用由AI驅動的自動化系統來接受或拒絕信貸申請，那么就必須避免培訓數據集中可能包含的對女性或有色人種的系統性偏見。
隨著我們朝著AI驅動的決策方向發展，人類必須在“回路”中保持清醒，驗證機器學習算法產生的結果，以檢查偏差和其他形式的不準確。讓人類參與“回路”是重新訓練算法以在生產環境中更有效地執行的關鍵一步。
3. 安全策略
許多大型語言模型和其他機器學習模型已經使用互聯網用戶生成的大量在線數據語料庫進行了訓練。例如，公開可用的亞馬遜和Yelp評論被用于訓練情緒分析算法。
在企業環境中，使用 ChatGPT 等公開可用的模型可能會對敏感數據（如個人身份信息或知識產權）構成風險。使用這些工具時，遵守公司的數據安全策略非常重要。
為了避免這些類型的問題，許多組織基于內部數據集開發了自己的專有機器學習模型，從而降低了企業數據落入壞人之手的風險。
4. 法律風險
監管AI是一個全球持續存在的問題，法律領域繼續受到包括生成式AI在內的新興技術的影響。例如，許多人對使用AI生成的文本和圖像提出了版權問題。
在開源世界中，自動代碼生成器引起了對許可的擔憂。一些關鍵問題在于生成式AI系統缺乏可追溯性——換句話說，很難知道代碼來自哪里以及如何將其歸因于其原始創建者。
例如，如果組織正在使用自動代碼生成器為流程模型開發代碼，那么在輸入專有代碼或利用開源軟件時最好謹慎行事。
5. 成熟度考量
在某些技術領域，例如自動化決策的增強智能系統，可能還沒有完全準備好迎接黃金時代。這些技術通常需要來自多個來源的混合數據集才能做出有效的決策。許多團隊沒有能力在生產中使用這些系統，無論是由于資源限制還是缺乏適用的培訓數據。
然而，隨著企業在數智化方面成熟度的提高，能夠在人類監督的環境中使用增強智能，這些系統在自動做出某些決策方面將變得更加有效。它們可以幫助改善人類的工作流程，讓員工更有效地分配時間。
雖然這些挑戰肯定會影響實施人工智能的任何決定，但這并不妨礙企業進行試驗的意愿。AI與流程協作相結合有助于提高自動化程度，從而改善業務運營和客戶體驗。從持續改進流程到自動化決策，再到增強或優化人類工作流程——AI在這一領域的無限可能性是令人興奮的。