본문 바로가기

개발62

cover item thumbnail5 Zero-Shot(제로샷)/Few-Shot(퓨샷) Prompting 이미지 출처: 링크 아래 내용은 Prompt Engineering Guide(https://www.promptingguide.ai/) 내용을 번역한 내용입니다. Zero-Shot(제로샷)/Few-Shot(퓨샷) Prompting Zero-Shot Prompting(제로샷 프롬프팅) 오늘날 GPT-3과 같은 LLMs은 instruction을 따르도록 조정(tuned)되고 대량의 데이터에 의해 훈련(trained)됩니다. 따라서 LLMs은 "zero-shot" 작업을 수행할 수 있습니다. 다음은 zero-shot 예제 중 하나입니다. Prompt: Classify the text into neutral, negative or positive. Text: I think the vacation is okay. .. 2023. 9. 18.
cover item thumbnail5 Learning(학습)이란? Learning(학습) 앞에서 간단히 언급했던 것처럼, 학습은 퍼셉트론(Perceptron)에서 각 데이터가 처리된 후 예상 결과와 비교한 출력의 오류 정도에 따라 연결 가중치를 변경하여 출력의 오류를 최소화하는 과정입니다. 학습되는 과정은 아래와 같습니다. 입력은 입력에서 출력 레이어로 전파됩니다. (Forward Pass) 네트워크 오류가 계산됩니다. 오류는 출력 레이어에서 입력 레이어로 전파됩니다. (Backward Pass) 출력의 오류를 최소화하기 위해 찾는 값을 파라미터(parameter)라고 합니다. Parameter(파라미터) 파라미터는 아래와 같이 Weight, Bais가 있습니다. Weight(가중치) Bias(편향) 앞선 장에서 예를 들었던 키를 통해 체중을 예측하기 위한 식(y = .. 2023. 9. 18.
cover item thumbnail5 Colab 에서 streamlit app 실행하기 Colab 에서 streamlit app 실행하기 Colab 이란? Google Colaboratory 서비스의 줄임말로, browser 를 통해 python을 작성/실행 가능합니다. Colab 공식 홈페이지 (https://colab.google/) 에서 다음과 같이 Colab 을 설명하고 있습니다. 별도의 설정이 필요 없는 호스팅형 Jupyter 노트북 서비스로, GPU와 TPU를 포함한 컴퓨팅 리소스에 무료로 액세스할 수 있습니다. Colab은 특히 머신 러닝, 데이터 과학 및 교육에 적합합니다. 위에서 언급한 것처럼 GPU, TPU 를 사용해볼 수 있어, 개인 PC 에서 머신 러닝을 실행해보기 어려운 경우 사용을 추천합니다. Streamlit app 작성하기 Colab 에서 제공하는 TPU 를 이.. 2023. 9. 17.
cover item thumbnail5 Cost Function(비용 함수) Cost Function(비용 함수) 이란? Cost Function(비용 함수) : 수학에서는 모델의 매개변수를 사용하여 표현된 총 오차입니다. Neural Network의 학습은 Cost Function(비용 함수)를 최적화하는 것이 핵심입니다. 즉, 수학적 모델의 매개변수는 모든 데이터에 대해 정답 데이터(answer)와 예측 값(predicted value) 사이의 오차(error)가 최소화되도록 결정됩니다. Example of Regression Analysis Regression 단어의 뜻은 후퇴, 복귀, 쇠퇴, 회귀입니다. 그중에서도 통계학 용어인 "회귀"는 국어사전에서 '한 바퀴 돌아서 본디의 상태나 자리로 돌아오는 것'이라고 한다. 이 용어는 영국 유전학자 프란시스 골턴(Francis G.. 2023. 9. 17.
cover item thumbnail5 Streamlit을 이용한 Chatbot 만들기 Streamlit을 이용한 Chatbot 만들기 Streamlit을 이용해서 Chatbot을 만들기 전에 Streamlit이 무엇인지 간단히 알아보고, streamlit-chat 패키지를 이용하여 간단한 Chatbot을 만들어보자. streamlit 이란? Streamlit은 Python으로 작성된 오픈 소스 라이브러리로, Streamlit을 이용하면 데이터 과학자와 엔지니어가 빠르고 쉽게 대화형 웹 애플리케이션을 만들 수 있습니다. Streamlit에서 제공하는 기능은 아래와 같습니다.. 데이터 시각화: 다양한 데이터 시각화 도구를 제공하여 데이터를 시각적으로 표현할 수 있습니다. 데이터 입력: 사용자로부터 데이터를 입력받을 수 있는 양식을 제공합니다. 데이터 분석: 데이터를 분석하고 결과를 시각화할 .. 2023. 9. 10.
cover item thumbnail5 시스템, 사용자, 어시스턴트 시스템, 사용자, 어시스턴트 시스템(System), 사용자(User), 어시스턴트(Assistant)의 세 가지 주요 구성 요소로 구성됩니다. 시스템: AI의 페르소나, 목표 및 행동, 특정 작업 또는 규칙을 정의합니다. 시스템 역할(예, 챗봇)에 대한 지침, 지침 및 컨텍스트를 제공하는 역할을 합니다. 시스템 메시지는 사용자 상호 작용을 안내하고, 시스템의 동작을 설정하고, 컨텍스트 정보를 제공하고, 대화 내에서 특정 상호 작용을 처리하는 데 도움이 됩니다. (참고: 이 정의는 사용자마다, 프롬프트마다 다릅니다. 시스템 지침이 너무 많으면 출력이 저하될 수 있습니다.) 사용자: 사용자 역할은 챗봇과 상호 작용하는 실제 사용자에 해당합니다. 원하는 출력을 얻기 위해 모델에 입력 또는 대화를 제공합니다. .. 2023. 9. 10.
cover item thumbnail5 LLM 애플리케이션의 취약점 LLM 애플리케이션의 주요 취약점 OWASP에서 LLM 애플리케이션의 10대 주요 취약점 유형을 선정하였는데, 그 내용을 기반으로 작성하였습니다. 자세한 내용은 OWSAP 사이트 참고(https://owasp.org/www-project-top-10-for-large-language-model-applications/)해주세요. LLM(Large Language Model)은 방대한 양의 텍스트 데이터를 학습하여 사람과 유사한 텍스트를 생성하는 AI 모델입니다. 최근 LLM을 활용한 다양한 애플리케이션이 등장하면서 그 활용 범위가 확대되고 있지만, 아직 다양한 취약점이 존재합니다. 프롬프트 주입(Prompt Injection) 공격자는 LLM에 대한 입력을 조작하여 악의적인 의도를 실행할 수 있습니다. .. 2023. 9. 9.
cover item thumbnail5 Activation Function Activation Function (활성화 함수) 활성화 함수는 인공 신경망에서 입력 신호의 가중치 합을 출력 신호로 변환하는 함수입니다. 즉, artificial neuron들이 활성(fire)되는 빈도를 결정하는 임계값을 설정합니다. 활성화 함수의 주요 기능은 다음과 같습니다. 입력 신호의 가중치 합을 출력 신호로 변환 입력에 대한 비선형 변환을 통해 신경망의 표현력을 향상 역전파 알고리즘을 통해 신경망의 가중치를 학습 활성화 함수는 인공 신경망의 성능을 좌우하는 중요한 역할을 합니다. 활성화 함수는 크게 2가지로 나눌 수 있습니다. 선형 활성화 함수 (Linear activation function) 비선형 활성화 함수 (Non-linear activation function) 아래에서 선형 활성.. 2023. 9. 6.

티스토리툴바