AI在企業(yè)內(nèi)部的機遇與挑戰(zhàn)

AI在企業(yè)內(nèi)部的機遇與挑戰(zhàn)巴斯夫中國數(shù)字化中心演講嘉賓介紹?計算機科學(xué)博士，密碼學(xué)專業(yè)?30年信息/網(wǎng)絡(luò)安全經(jīng)驗?在巴斯夫工作20年，負(fù)責(zé)安全架構(gòu)和戰(zhàn)略?網(wǎng)絡(luò)安全與安全風(fēng)險管理高級專家?自2022年起擔(dān)任中國網(wǎng)絡(luò)安全團隊負(fù)責(zé)人02人工智能機遇03人工智能風(fēng)險風(fēng)險評估方式BASF-WecreateChemistry|巴斯夫集團簡介?我們將經(jīng)濟成功、社會責(zé)任和環(huán)境保護融為一體?我們的產(chǎn)品幾乎應(yīng)用于所有行業(yè)，分為6個產(chǎn)品組合?2022年銷售額：873億歐元，2022年未計特殊項目的息稅前利潤：69億歐元?111，481名員工*為客戶的成功做出貢獻?公司遍布90多個國家?6個一體化生產(chǎn)基地和239個其他生產(chǎn)基地?~82,000個客戶來自世界上大多數(shù)國家的不同行業(yè)深耕中國138年-自1885年起26家全資子公司10家合資企業(yè)30個生產(chǎn)基地11，411名員工*2022年銷售額約116億歐元**數(shù)字化是巴斯夫的優(yōu)先事項，并支持巴斯夫企業(yè)戰(zhàn)略的目標(biāo)最領(lǐng)先的數(shù)字化工企業(yè)運用獨特的依托中國數(shù)字人才創(chuàng)建全球的足跡實現(xiàn)業(yè)務(wù)需求的數(shù)字化，以便在中國市場競爭和發(fā)展構(gòu)建合規(guī)的數(shù)字解決方案保護企業(yè)以安全的方式運行數(shù)字解決方案引自:RogerHalbheer-微軟首席安全顧問人工智能-機遇與挑戰(zhàn)人工智能為企業(yè)帶來了新機遇，也帶來了新風(fēng)險數(shù)據(jù)保護知識產(chǎn)權(quán)數(shù)據(jù)保護知識產(chǎn)權(quán)人工智能帶來的新機遇網(wǎng)絡(luò)安全人工智能帶來的新風(fēng)險人工智能-風(fēng)險概述隨著人工智能的興起，新的風(fēng)險不斷涌現(xiàn)，威脅人工智能網(wǎng)絡(luò)安全風(fēng)險?知識產(chǎn)權(quán)保護不足數(shù)據(jù)保護：??知識產(chǎn)權(quán)保護不足數(shù)據(jù)保護：?不恰當(dāng)?shù)膫€人數(shù)據(jù)管理?第三方個人數(shù)據(jù)的違規(guī)處理攻擊的數(shù)量和復(fù)雜程度以及新的攻擊載體不斷增加必須確保符合法律要求虛假信息，如可信度、幻覺新的威脅行為者，數(shù)據(jù)盜竊人工智能作為攻擊面?無法提供人工智能服務(wù)?過度依賴人工智能會導(dǎo)致錯誤或無意義的反應(yīng)或不合理的反應(yīng)?違反合同，如侵犯版權(quán)繞過現(xiàn)有安全措施資料來源Gartner(2023)|ENISA(2023)|Team8(2023)作為攻擊面的人工智能新的威脅行為者通過對抗性攻擊，攻擊者可以操縱人工智能模型，獲得未經(jīng)授權(quán)的訪問權(quán)，復(fù)通過對抗性攻擊，攻擊者可以操縱人工智能模型，獲得未經(jīng)授權(quán)的訪問權(quán)，復(fù),攻擊的復(fù)雜程度將不斷提高，總體門檻將有所下降。成熟攻擊的頻率預(yù)計繞過繞過現(xiàn)有安全措施在計算機上安裝微軟Co-Pilot等人工智能解決方案，可以讓人工智能系統(tǒng)繞過郵件加密等程序，完全訪問郵件，從而增加數(shù)據(jù)泄漏的風(fēng)險。數(shù)據(jù)盜竊人工智能驅(qū)動的惡意軟件可能會從網(wǎng)絡(luò)行為中學(xué)習(xí)，并以不顯眼的小爆發(fā)形式外泄機密數(shù)據(jù)，以躲避檢測將對社會或經(jīng)濟產(chǎn)生影響技術(shù)原型代理、工具和應(yīng)用程序接口（API），例如將現(xiàn)有服務(wù)與LLM連接起來聊天機器人，例如用于對話或支持用戶導(dǎo)航的前端軟件與數(shù)據(jù)聊天，例如與結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)互動文本轉(zhuǎn)換，例如文本摘要或?qū)⑽谋巨D(zhuǎn)換為本體語音，例如在實驗室或客戶服務(wù)環(huán)境中使用自動語音理解或語音創(chuàng)建功能分子化學(xué)，如分析小分子或大化學(xué)分子的性質(zhì)圖像，例如理解圖像并將其轉(zhuǎn)換為文本；根據(jù)不同類型的AI用例不同類型的AI用例我們制定了一套方法，以實現(xiàn)風(fēng)險透明并確保治理?確保風(fēng)險暴露的透明度為我們的業(yè)務(wù)提供基于人工制定評估人工智能風(fēng)險的統(tǒng)一方法風(fēng)險評估風(fēng)險評級緩解措施制定評估人工智能風(fēng)險的統(tǒng)一方法風(fēng)險評估風(fēng)險評級緩解措施風(fēng)險接受度與殘余風(fēng)險利用人工智能實現(xiàn)網(wǎng)絡(luò)防御能力現(xiàn)代化對于大型組織來說，擁抱人工智能作為技術(shù)人工智能讓網(wǎng)絡(luò)防御更上一層樓分析數(shù)據(jù)以預(yù)測未來的威脅，如新的惡意軟件分析數(shù)據(jù)以預(yù)測未來的威脅，如新的惡意軟件總體風(fēng)險態(tài)勢分析，例如通過識別和評估薄弱環(huán)節(jié)我們?yōu)楝F(xiàn)代SOC提供的優(yōu)勢保持競爭優(yōu)勢，獲得人工智能的優(yōu)勢并抵御風(fēng)險對策對策人工智能宣傳和用戶培訓(xùn)一套標(biāo)準(zhǔn)的由可信供應(yīng)商提供的人工智能解決方案風(fēng)險