Recent machine learning approaches have been effective in Artificial Intelligence (AI) applications. They produce robust results with a high level of accuracy. However, most of these techniques do not provide human-understandable explanations for supporting their results and decisions. They usually act as black boxes, and it is not easy to understand how decisions have been made. Explainable Artificial Intelligence (XAI), which has received much interest recently, tries to provide human-understandable explanations for decision-making and trained AI models. For instance, in digital agriculture, related domains often present peculiar or input features with no link to background knowledge. The application of the data mining process on agricultural data leads to results (knowledge), which are difficult to explain. In this paper, we propose a knowledge map model and an ontology design as an XAI framework (OAK4XAI) to deal with this issue. The framework does not only consider the data analysis part of the process, but it takes into account the semantics aspect of the domain knowledge via an ontology and a knowledge map model, provided as modules of the framework. Many ongoing XAI studies aim to provide accurate and verbalizable accounts for how given feature values contribute to model decisions. The proposed approach, however, focuses on providing consistent information and definitions of concepts, algorithms, and values involved in the data mining models. We built an Agriculture Computing Ontology (AgriComO) to explain the knowledge mined in agriculture. AgriComO has a well-designed structure and includes a wide range of concepts and transformations suitable for agriculture and computing domains.

Bản dịch tiếng Việt:

Các phương pháp học máy gần đây đã phát huy hiệu quả trong các ứng dụng Trí tuệ nhân tạo (AI). Chúng tạo ra kết quả chắc chắn với độ chính xác cao. Tuy nhiên, hầu hết các kỹ thuật này không đưa ra những lời giải thích dễ hiểu cho con người để hỗ trợ cho kết quả và quyết định của họ. Chúng thường hoạt động như những chiếc hộp đen và không dễ hiểu được các quyết định được đưa ra như thế nào. Trí tuệ nhân tạo có thể giải thích (XAI), vốn nhận được nhiều sự quan tâm gần đây, cố gắng đưa ra những lời giải thích dễ hiểu cho con người về việc ra quyết định và đào tạo các mô hình AI. Ví dụ, trong nông nghiệp số, các lĩnh vực liên quan thường thể hiện những đặc điểm riêng biệt hoặc đầu vào mà không có mối liên hệ nào với kiến ​​thức nền tảng. Việc áp dụng quy trình khai thác dữ liệu trên dữ liệu nông nghiệp dẫn đến kết quả (kiến thức) rất khó giải thích. Trong bài báo này, chúng tôi đề xuất mô hình bản đồ tri thức và thiết kế ontology làm khung XAI (OAK4XAI) để giải quyết vấn đề này. Khung này không chỉ xem xét phần phân tích dữ liệu của quy trình mà còn tính đến khía cạnh ngữ nghĩa của kiến ​​thức miền thông qua bản thể luận và mô hình bản đồ kiến ​​thức, được cung cấp dưới dạng mô-đun của khung. Nhiều nghiên cứu XAI đang diễn ra nhằm mục đích cung cấp các giải thích chính xác và có thể diễn đạt bằng lời về cách các giá trị tính năng nhất định đóng góp vào các quyết định về mô hình. Tuy nhiên, cách tiếp cận được đề xuất tập trung vào việc cung cấp thông tin và định nghĩa nhất quán về các khái niệm, thuật toán và giá trị liên quan đến các mô hình khai thác dữ liệu. Chúng tôi đã xây dựng Bản thể điện toán nông nghiệp (AgriComO) để giải thích kiến ​​thức được khai thác trong nông nghiệp. AgriComO có cấu trúc được thiết kế tốt và bao gồm nhiều khái niệm cũng như chuyển đổi phù hợp với lĩnh vực nông nghiệp và điện toán.

Document Ready

Click below to load the full PDF document natively.