본문 바로가기
반응형

딥러닝 공부3

vocabulary and tokenizer https://www.educative.io/courses/natural-language-processing-ml/N0Wr9zwpEmv Vocabulary - Natural Language Processing with Machine Learning Become accustomed to the meaning of "vocabulary" for NLP tasks. www.educative.io 예제 코드를 보면서 이해하기 쉬운 사이트 보캡을 어떻게 정의하는지는 여러가지 방법이 존재함. 2022. 1. 7.
what is beam search? https://machinelearningmastery.com/beam-search-decoder-natural-language-processing/ How to Implement a Beam Search Decoder for Natural Language Processing Natural language processing tasks, such as caption generation and machine translation, involve generating sequences of words. Models developed for these […] machinelearningmastery.com 빔 서치를 찾아보면서 위 링크를 통해 이해한 바를 정리한다. 단어를 맞추는 모델이 존재한다. 주어진 입력으.. 2022. 1. 7.
드랍아웃 https://d2l.ai/chapter_multilayer-perceptrons/dropout.html?highlight=dropout 4.6. Dropout — Dive into Deep Learning 0.17.1 documentation d2l.ai 위 링크를 통해 드랍아웃에 대해 정리 종종 학습 데이타의 개수가 적고 네트워크의 파라미터가 너무 많다면 오버피팅 현상이 일어난다. 네트웍이 주어진 테스크 보다 너무 커서 그냥 모조리 외워 버린다랄까. 우리는 네트웍이 지금까지 보지 못한 데이타에 대해서도 잘 수행하기를 원한다. 특성(feature)들의 개수가 적은 경우에도, 딥 뉴럴 네트워크는 오버피팅(overfitting) 될 수 있습니다. 뉴럴 네트워크의 뛰어난 유연성을 보여주는 예로, 연구자들은 .. 2022. 1. 6.
반응형