[en] AUTONOMOUS SYSTEMS EXPLAINABLE THROUGH DATA PROVENANCE
[pt] Determinar a proveniência dos dados, isto é, o processo que levou a esses dados, é vital em muitas áreas, especialmente quando é essencial que os resultados ou ações sejam confiáveis. Com o crescente número de aplicações baseadas em inteligência artificial, criou-se a necessidade de torná-las c...
Other Authors: | |
---|---|
Language: | pt |
Published: |
MAXWELL
2020
|
Subjects: | |
Online Access: | https://www.maxwell.vrac.puc-rio.br/Busca_etds.php?strSecao=resultado&nrSeq=48782@1 https://www.maxwell.vrac.puc-rio.br/Busca_etds.php?strSecao=resultado&nrSeq=48782@2 http://doi.org/10.17771/PUCRio.acad.48782 |
Summary: | [pt] Determinar a proveniência dos dados, isto é, o processo que levou a
esses dados, é vital em muitas áreas, especialmente quando é essencial que
os resultados ou ações sejam confiáveis. Com o crescente número de aplicações
baseadas em inteligência artificial, criou-se a necessidade de torná-las
capazes de explicar seu comportamento e responder às suas decisões. Isso é
um desafio, especialmente se as aplicações forem distribuídas e compostas de
vários agentes autônomos, formando um Sistema Multiagente (SMA). Uma
maneira fundamental de tornar tais sistemas explicáveis é rastrear o comportamento
do agente, isto é, registrar a origem de suas ações e raciocínios,
como em uma depuração onisciente. Embora a ideia de proveniência já
tenha sido explorada em alguns contextos, ela não foi extensivamente explorada
no contexto de SMA, deixando muitas questões para serem compreendidas
e abordadas. Nosso objetivo neste trabalho é justificar a importância
da proveniência dos dados para SMA, discutindo quais perguntas
podem ser respondidas em relação ao comportamento do SMA, utilizando
a proveniência e ilustrando, através de cenários de aplicação, os benefícios
que a proveniência proporciona para responder a essas questões. Este estudo
envolve a criação de um framework de software, chamado FProvW3C,
que suporta a coleta e armazenamento da proveniência dos dados produzidos
pelo SMA, que foi integrado a plataforma BDI4JADE (41), formando
o que denominamos de Prov-BDI4JADE. Por meio desta plataforma, utilizando
exemplos de sistemas autônomos, demostramos com rigor que, o
uso da proveniência de dados em SMA é uma solução sólida, para tornar
transparente o processo de raciocínio e ação do agente. === [en] Determining the data provenance, that is, the process that led to those
data, is vital in many areas, especially when it is essential that the results
or actions be reliable. With the increasing number of applications based
on artificial intelligence, the need has been created to make them capable
of explaining their behavior and be responsive to their decisions. This is
a challenge especially if the applications are distributed, and composed
of multiple autonomous agents, forming a Multiagent System (MAS).
A key way of making such systems explicable is to track the agent s
behavior, that is, to record the source of their actions and reasoning,
as in an omniscient debugging. Although the idea of provenance has
already been explored in some contexts, it has not been extensively explored
in the context of MAS, leaving many questions to be understood and
addressed. Our objective in this work is to justify the importance of the
data provenance to MAS, discussing which questions can be answered
regarding the behavior of MAS using the provenance and illustrating,
through application scenarios, to demonstrate the benefits that provenance
provides to reply to these questions. This study involves the creation
of a software framework, called FProvW3C, which supports the collects
and stores the provenance of the data produced by the MAS, which
was integrated with the platform BDI4JADE (41), forming what we call
Prov-BDI4JADE. Through this platform, using examples of autonomous
systems, we have rigorously demonstrated that the use of data provenance
in MAS is a solid solution to make the agent’s reasoning and action process
transparent. |
---|