[일지] 피어세션 5/28 일지

[bsm8734]

🌿 어제 한 일

📌 수민

• Attention 돌려보려고 했는데 오류
• 가상환경을 사용해보자

📌 재혁

• 전처리를 파보는 중
• 검증을 하기 위해서 데이터 10000개 넘게 뽑아서 실험을 해봄
• 5~10%의 에러 이외에는 깔끔하게 잘 나옴
• 이번 주말까지 전처리를 다 끝낼 수 있다고 생각함
• 100% 만족시킬 수는 없다고 생각함
• 잘 처리가 안된 데이터를 거르는 모델을 만드는 방법도 생각해볼 수 있음

📌 지원

• SATRN 50 epoch을 다 돌림

📌 소현

• wandb setting(PR에 다 적혀있음)

📌 세민

• 논문(SATRN), 지원님도 SATRN 논문을 읽으심
• roi pooling → spatial transform → self attention (진화)
• 인코더는 얕은 CNN을 통해서 정보량과 속도면에서 shallow CNN을 사용하는 것이 적절하다고함
• 회전시켰을 때, 더 많은 공간이 필요한데, 이를 잘 해결
• Point wise 대신에 locality aware feed forward layer
• transformer → long term dependency 해결
• attention은 전체를 한번에 보기 때문에 locality aware feed forward layer를 추가해서 지역적인 정보에 대한 정보를 강화(어떤 데이터 옆에 중요한 데이터가 위치할 가능성이 더 높음)
• SAR이라는 모델과 구조가 비슷

Rotation

• 가장 흥미로웠던 것: 기존의 것과 다르게 완전히 뒤집혀있는 경우에 SATRN이 더 잘할 수 있음
• 각 각도에 따라 0~ 360 랜덤하게 학습을 시켰다고 함 → ⭐️
• 돌리고, resize 64x64 해서 학습(회전시키면, 변화가 생기니, 변화를 맞춰주는 역할) → 좋은 결과가 나왔다고 하니, 이것을 적용해보고자 함 → 그러나 우리 데이터를 다른 것 같으니 현재는 128x128으로 되어있음 → 64x64로 바꿔서 일단 실험하는 중(느려지는 것 방지)
• 평가데이터에 어떤 방향의 데이터가 있을지 모르니, 애초에 robust한 모델을 만드는 방법
• 너무 잘돼서 의심(?)
• 우리가 받은 training 파라미터가 다름 → 논문에 나온 파라미터를 적용시켜서 돌려보는 것은 어떨까?
• 기존보다 성능이 낮아지기는 하나, 좀 더 일반화가 잘 될 것

📌 종영

• wandb setting

---

🌿 회고

✏️ 좋았던 점/계속할 것(지속할 것)

• 노션을 활용해서 팀과 개인 위키 따로 만든 점
• 매일 내일 계획을 세움
• 분업이 잘 됨
• 여러 매체를 통해 빠르게 소통을 한 것(카카오톡, notion)
• 정리를 잘함 (협업을 위한 정리가 잘 되어있음)
• 좋은 설명러

✏️ 아쉬웠던 점(개선할 점)

• 안 좋은 학습 환경: 서버(늦은 개발), 라이브러리 버전 문제(심각)
• 분야에 대한 생소함, 정보 부족
• 계획을 제대로 세우지 않음 → 뭘 해야하는지 모르는 상황이 옴
• 매일 내일의 계획은 세웠으나, 장기적인 계획을 세우지 않음

✏️ 앞으로의 계획/도전

• 장기적인 계획을 세우기(남은 기간을 가지고, 적어도 일주일 단위의 계획이 필요)
• task의 deadline을 정하기(목표를 세우기)
• github의 milestone을 사용해서 github issue와 연관하여 사용해보기
• notion의 check list를 사용해서 앞으로 해야할 것을 정하기
• bug report 작성, 막히는 부분을 빠르게 공유하고 같이 해결하기

---

🌿 앞으로의 협업 관련 논의

🧭 issue

• 이슈는 계획을 세우는 공간으로 사용
• 소현님께서 올려주신 템플릿을 기준으로 함
  • 참고: https://github.com/devspace/awesome-github-templates
• 과정
  1. PR 남기기 전에, issue를 만들어놓기(계획을 간단히 적어놓기)
  2. 작업하기
  3. PR날려서 issue와 linking
• PR label 종류
  • 버그 fix
  • 새로운 기능(모델 추가, wandb 세팅)
  • Documentation(readmd, 주석)
• 결론) 순서: issue를 작성(간단하게, 계획) → task 수행 → PR(했던 내용을 자세하게 작성)

🧭 Private repository to public repository

• private에서 할 수 없는 기능
  • 리뷰어 수 설정
  • merge block
• 결론) 필요한 경우가 오면 public으로 변경(일단은 기존 방식을 계속)

🧭 우리 팀에 필요한 것(앞으로 할 것)

종영

• 틀린것에 대해 분석할 수 있는 방법(시각화)
• validation set → k fold, ensemble 코드를 미리 작성
• baseline을 기반으로 점수를 향상시키기 위해서 모델을 분석하는 사람이 필요
  • 현재 세민님이 해주시는 방식처럼 하면 좋을듯
• 이론과 코드에 대한 이해가 필요
  • & 재혁님처럼 데이터 처리하는 부분도 중요하다고 생각

세민

• SATRN에 대한 논문을 주말에 읽어보기(모든 팀원)

---

🌿 주말까지 뭐할지

🥕 공통

• SATRN 논문 읽기
• 팀에서 꼭 해야할 것들 생각해오기

🥕 개인

• 재혁: 전처리 이어서
• 종영: SATRN 코드 보기, 대회 찾아보고 테크닉 얻기
• 세민: SATRN 코드 보기
• 수민
  • wandb에 모델이 예측한 결과를 띄우기
  • LaTeX 렌더링 필요
  • 방식 → 채택: b번
    1. 틀린 데이터를 출력
       • val 기준으로 틀린것 중 일부만 가져오기(too many sources, resize need)
       • 그러나 epoch 초반에는 모두 오답일 것이므로, 지정한 validation score을 넘긴 이후에만 img 출력하는 방법을 고려
    2. 고정된 데이터를 계속 출력
       • 매 epoch 마다 똑같은 데이터를 보여주는 방식
       • epoch의 변화에 따른 predict 값이 어떻게 변화하는지 확인 가능
       • 대신,a번의 (모든 오답 데이터를 출력하는 방법)을 일정 주기마다 실행하는 것을 고려
       • 학습중에 틀리고 있는 것 보다는, 학습이 되어가며 어떤 부분이 개선되었는지 위주로 보는 것이 더 중요할 것
• 소현: 협업에 대한 내용 찾아보고 테스트
• 지원: 다음 모델 찾아보기
  • RNN, OCR, Scene Text - 참고할 논문 리스트

🥕 보류

• K fold, ensemble(hard voting) → class 나누는 기준 정해야함
  • Sequence가 중요한 task이므로, soft voting이 좋지 않을 수 있음
• 장기적인 계획(월요일에 정하기)

---

🌿 New Rules

• Wandb usage
  • 각자 (weight & bias)프로젝트를 생성해서 실험 기록
  • 조건) public으로 돌리기
  • 실험한 것은 notion에 wandb (run project) url 달아놓기

🌿 More information

세민

• 이미지 인식을 GAN을 사용해서 다시 글자를 쓴다 - 뭉개진 글씨를 쓰는데에 좋다고 함
• 재생성한 것을 인식을 할 때에 인식률이 올라감