新算法實現人工智慧 多模態信息“去偽存真”

從西安電子科技大學獲悉，由該校計算機科學與技術學院教授趙偉領銜的智慧媒體計算機團隊，通過數據可信重建以及弱監督深度學習框架，破解了數據質量低及標注數據稀缺難題，進一步揭示了神經網絡的決策機制，有效提升了現有可信人工智慧方法的魯棒性、可解釋性和安全性。相關論文《可信衝突多模態學習算法》日前獲國際人工智慧領域頂級學術會議AAAI 2024傑出論文獎。

人工智慧已經日益深入人們生活。在醫療、自動駕駛等複雜場景中，人工智慧對決策任務的誤判可能造成重大損失。傳統可信人工智慧多關注單模態數據，無法滿足實際場景中多模態數據分析決策需求，單模態數據有限的信息量導致單模態智慧可信度存在瓶頸。

為此，團隊打破單模態數據思路，提出衝突多模態學習算法，並通過數據可信重建以及弱監督深度學習框架算法，實現了證據層面的衝突多模態數據可信融合。這能在提升人工智慧決策性能的同時，可靠地度量決策置信度。此外，團隊從理論上證明，該方法能夠量化衝突模態帶來的負面影響。這有利於解決當前研究面臨的數據質量低、決策不可信等難題，為後續研究提供了重要的理論基礎和技術支撐。

團隊成員徐偲副教授解釋，這種算法在給出置信度的同時，還會給出多模態數據的衝突度，實現了多模態信息的“去偽存真”。若置信度不高且衝突度較高時，人工智慧的決策便明顯不太可信。