analysis-fine-tunning-llm-maze-learning

PT-BR

Descrição do Repositório

Este repositório contém todos os códigos e análises relacionados ao projeto de análise do aprendizado por fine-tuning de modelos de linguagem grande (LLM) resolvendo labirintos em ASCII. O objetivo deste projeto é explorar se diferentes técnicas de fine-tuning podem ser percebidas com significância estatística nos grafos de ativações sobre a entrada de labirintos aos modelos, gerados pela biblioteca LLM-MRI.

Estrutura do Repositório

• ./tcc1-pt1-llmmri-validation-with-bert: contém o código para validar o funcionamento da biblioteca LLM-MRI utilizando o modelo BERT.
• ./tcc1-pt2-llmmri-validation-with-gpt: contém o código para validar o funcionamento da biblioteca LLM-MRI utilizando um modelo GPT (GPT2).
• ./tcc2-embbeddings-validation: contém o código relacionado à validações dos embeddings gerados e obtidos utilizando a biblioteca LLM-MRI.
• ./tcc2-pt2-initial-exploratory-analysis: contém o código para análises exploratórias iniciais dos grafos de ativações obtidos.
• ./tcc2-pt3-amostragem-inferencia-distribuicoes-todas-camadas: contém o código para amostragem, inferência e geração de figuras para interpretação das distribuições de ativações em todas as camadas do modelo.
• ./tcc2-pt4-amostragem-inferencia-distribuicoes-ultimas-cinco-camadas: contém o código para amostragem, inferência e geração de figuras para interpretação das distribuições de ativações nas últimas cinco camadas do modelo.
• ./tcc2-pt5-statistical-significancy-analysis: contém o código para análise de significância estatística dos resultados obtidos.

Texto do Trabalho de Conclusão de Curso

O arquivo do texto do trabalho de conclusão de curso (TCC) relacionado a esse repositório está disponível aqui neste repositório. Ele pode ser acessado no link a seguir que referência a versão final do texto: ANÁLISE DO APRENDIZADO PORFINE-TUNNING DE MODELOS DE LINGUAGEM NAVEGANDO POR LABIRINTOS EM ASCII.pdf.

O projeto em LaTeX do trabalho relacionado a esse repositório pode ser encontrado no repositório que contém arquivos relacionados às disciplinas cursadas durante o meu curso de Bacharelado em Engenharia de Computação na Universidade Tecnológica Federal do Paraná (UTFPR). O repositório está disponível no seguinte link: UTFPR/TrabConcCursII_CSX43/monografia/TCC2.

EN

Repository Description

This repository contains all the codes and analyses related to the project of analyzing the learning by fine-tuning of large language models (LLM) solving ASCII mazes. The objective of this project is to explore whether different fine-tuning techniques can be perceived with statistical significance in the activation graphs over the maze input to the models, generated by the LLM-MRI library.

Repository Structure

• ./tcc1-pt1-llmmri-validation-with-bert: contains the code to validate the functionality of the LLM-MRI library using the BERT model.
• ./tcc1-pt2-llmmri-validation-with-gpt: contains the code to validate the functionality of the LLM-MRI library using a GPT model (GPT2).
• ./tcc2-embbeddings-validation: contains the code related to the validations of the embeddings generated and obtained using the LLM-MRI library.
• ./tcc2-pt2-initial-exploratory-analysis: contains the code for initial exploratory analyses of the obtained activation graphs.
• ./tcc2-pt3-amostragem-inferencia-distribuicoes-todas-camadas: contains the code for sampling, inference, and figure generation for interpreting activation distributions across all model layers.
• ./tcc2-pt4-amostragem-inferencia-distribuicoes-ultimas-cinco-camadas: contains the code for sampling, inference, and figure generation for interpreting activation distributions in the last five layers of the model.
• ./tcc2-pt5-statistical-significancy-analysis: contains the code for statistical significance analysis of the obtained results.

Course Completion Work Text

The file of the course completion work (TCC) text related to this repository is available here in this repository. It can be accessed at the following link that references the final version of the text: ANÁLISE DO APRENDIZADO PORFINE-TUNNING DE MODELOS DE LINGUAGEM NAVEGANDO POR LABIRINTOS EM ASCII.pdf.

The LaTeX project of the work related to this repository can be found in the repository that contains files related to the subjects taken during my Bachelor's degree in Computer Engineering at the Federal University of Technology - Paraná (UTFPR). The repository is available at the following link: UTFPR/TrabConcCursII_CSX43/monografia/TCC2.