Udemy
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
Development
Web Development Data Science Mobile Development Programming Languages Game Development Database Design & Development Software Testing Software Engineering Software Development Tools No-Code Development
Business
Entrepreneurship Communication Management Sales Business Strategy Operations Project Management Business Law Business Analytics & Intelligence Human Resources Industry E-Commerce Media Real Estate Other Business
Finance & Accounting
Accounting & Bookkeeping Compliance Cryptocurrency & Blockchain Economics Finance Finance Cert & Exam Prep Financial Modeling & Analysis Investing & Trading Money Management Tools Taxes Other Finance & Accounting
IT & Software
IT Certifications Network & Security Hardware Operating Systems & Servers Other IT & Software
Office Productivity
Microsoft Apple Google SAP Oracle Other Office Productivity
Personal Development
Personal Transformation Personal Productivity Leadership Career Development Parenting & Relationships Happiness Esoteric Practices Religion & Spirituality Personal Brand Building Creativity Influence Self Esteem & Confidence Stress Management Memory & Study Skills Motivation Other Personal Development
Design
Web Design Graphic Design & Illustration Design Tools User Experience Design Game Design 3D & Animation Fashion Design Architectural Design Interior Design Other Design
Marketing
Digital Marketing Search Engine Optimization Social Media Marketing Branding Marketing Fundamentals Marketing Analytics & Automation Public Relations Paid Advertising Video & Mobile Marketing Content Marketing Growth Hacking Affiliate Marketing Product Marketing Other Marketing
Lifestyle
Arts & Crafts Beauty & Makeup Esoteric Practices Food & Beverage Gaming Home Improvement & Gardening Pet Care & Training Travel Other Lifestyle
Photography & Video
Digital Photography Photography Portrait Photography Photography Tools Commercial Photography Video Design Other Photography & Video
Health & Fitness
Fitness General Health Sports Nutrition & Diet Yoga Mental Health Martial Arts & Self Defense Safety & First Aid Dance Meditation Other Health & Fitness
Music
Instruments Music Production Music Fundamentals Vocal Music Techniques Music Software Other Music
Teaching & Academics
Engineering Humanities Math Science Online Education Social Science Language Learning Teacher Training Test Prep Other Teaching & Academics
Web Development JavaScript React Angular CSS Node.Js Typescript HTML5 PHP
AWS Certification Microsoft Certification AWS Certified Solutions Architect - Associate AWS Certified Cloud Practitioner CompTIA A+ Amazon AWS Cisco CCNA CompTIA Security+ Microsoft AZ-900
Microsoft Power BI SQL Tableau Data Modeling Business Analysis Data Analysis Data Warehouse Blockchain Business Intelligence
Unity Unreal Engine Game Development Fundamentals C# 3D Game Development C++ Unreal Engine Blueprints 2D Game Development Mobile Game Development
Google Flutter iOS Development Android Development Swift React Native Dart (programming language) Kotlin SwiftUI Mobile App Development
Graphic Design Photoshop Adobe Illustrator Drawing Canva Digital Painting InDesign Design Theory Procreate Digital Illustration App
Life Coach Training Neuro-Linguistic Programming Personal Development Personal Transformation Life Purpose Mindfulness Sound Therapy Emotional Intelligence Coaching
Business Fundamentals Entrepreneurship Fundamentals Freelancing Business Strategy Online Business Startup Business Plan Blogging Amazon Kindle Direct Publishing (KDP)
Digital Marketing Social Media Marketing Marketing Strategy Internet Marketing Copywriting Google Analytics Email Marketing Startup Advertising Strategy

DevelopmentData ScienceBERT

BERTによる自然言語処理を学ぼう! -Attention、TransformerからBERTへとつながるNLP技術-

ディープラーニング(深層学習)を使う自然言語処理技術の中でも、特に注目を集めているBERTを解説するコースです。Google Colaboratory環境でPyTorchを使用し、コードを動かしながらBERTの原理、実装を学びます。
Bestseller
Rating: 4.1 out of 54.1 (511 ratings)
3,286 students
Created by 我妻 幸長 Yukinaga Azuma
Last updated 8/2022
Japanese
Japanese [Auto]

What you'll learn

  • BERT、Transformer、Attentionの仕組み。
  • PyTorch、ライブラリTransformersを使用したBERTの実装。
  • 学習済みモデルのファインチューニングによる調整。
  • 日本語の文章、および英文のBERTによる分類。
  • 自然言語処理技術の概要。

Requirements

  • Pythonの基礎を学ぶためのテキストがダウンロード可能ですが、動画によるPythonの解説はありません。
  • 何らかのプログラミング経験があった方が望ましいです。
  • Google Colaboratoryを使用するため、ローカル環境はWindowsでもMacでも大丈夫です。
  • Google Colaboratory、およびGoogle Driveを使用するためにGoogleアカウントが必要になります。
  • 海外のライブラリや文献を紹介するので、英語に抵抗感が小さい方が望ましいです。
  • ディープラーニングに関する基礎的な知識が必要になります。

Description

自然言語処理の様々なタスクで高い性能を発揮する、「BERT」を学ぶコースです。

BERT(Bidirectional Encoder Representations from Transformers )は2018年10月にGoogleが公開して以来、世界中のAI関係者の注目を集めています。

BERTは「Transformer」と呼ばれるモデルを利用することで、離れた単語間の関係、すなわち「文脈」を考慮した自然言語処理を実現します。

タスクによっては人間並みの精度を発揮する可能性もあり、「応答文の生成」や「文書の要約」といった様々なタスクでの活用が期待されています。

本コースで学ぶことにより、BERTの仕組み、実装方法を理解し、BERTによる日本語文章の処理ができるようになります。

新しい時代の、有用な自然言語処理技術を身に付けましょう。


注: 本コースに先立ちYouTubeでのライブ講義【Live人工知能】がありました。本コースの動画はこのライブ講義をUdemy用に再構成したものになります。


コースの内容は以下の通りです。

Section1. 講座とBERTの概要

→ 自然言語処理、Transformer、BERTについて概要を学びます。

Section2. シンプルなBERTの実装

→ 最小限のPythonのコードでBERTを実装します。

Section3. BERTの仕組み

→ Transformer、BERTなどについて仕組みを詳しく学びます。

Section4. ファインチューニングの活用

→ ファインチューニングの概要、そしてBERTにおける活用について解説します。

Section5. BERTの応用

→ BERTを使って、自然言語処理のタスクに取り組みます。


なお、今回の講座でプログラミング言語Pythonの解説は最小限となりますが、Pythonの基礎を解説するノートブックがダウンロード可能です。

本コースはディープラーニング用フレームワークとしてPyTorchを使用します。

PyTorchはオープンソースの機械学習ライブラリで、簡潔さ、柔軟性、速度のバランスに優れているため人気が急上昇中です。

また、簡潔な記述が可能なため、最新の研究成果の実装によく使われています。

開発環境にはGoogle Colaboratoryを使用します。

Who this course is for:

  • 分かりやすい解説でBERT、Transformer、Attentionについて学びたい方。
  • 一歩進んだ自然言語処理技術を身に付けたい方。
  • PyTorchによる自然言語処理の実装を学びたい方。
  • 自然言語処理を活用し、文章の分類などを行いたい方。

Instructor

我妻 幸長 Yukinaga Azuma
人工知能(AI) / ディープラーニング / 機械学習 / プログラミング / iOS
我妻 幸長 Yukinaga Azuma
  • 4.3 Instructor Rating
  • 23,713 Reviews
  • 94,251 Students
  • 27 Courses

「ヒトとAIの共生」がミッションの会社、SAI-Lab株式会社の代表取締役。AI関連の教育と研究開発に従事。

東北大学大学院理学研究科修了。理学博士(物理学)。

法政大学デザイン工学部兼任講師。

「AI」がテーマのコミュニティ「自由研究室 AIRS-Lab」を主宰。

興味の対象は、人工知能(AI)、脳科学、ネイティブアプリ開発、シンギュラリティなど。

オンライン教育プラットフォームUdemyで、数万人にAIを教える人気講師。

複数の有名企業でAI研修を担当。

エンジニアとして、VR、ゲーム、SNSなどジャンルを問わず様々なアプリを開発し、多数の講演を行う。

著書に、「はじめてのディープラーニング」「はじめてのディープラーニング2」(SBクリエイティブ)、「Pythonで動かして学ぶ!あたらしい数学の教科書 機械学習・深層学習に必要な基礎知識」「あたらしい脳科学と人工知能の教科書」「Google Colaboratoryで学ぶ!あたらしい人工知能技術の教科書」(翔泳社)。共著に「No.1スクール講師陣による 世界一受けたいiPhoneアプリ開発の授業」(技術評論社)。

Top companies choose Udemy Business to build in-demand career skills.
NasdaqVolkswagenBoxNetAppEventbrite
  • Udemy Business
  • Teach on Udemy
  • Get the app
  • About us
  • Contact us
  • Careers
  • Blog
  • Help and Support
  • Affiliate
  • Investors
  • Terms
  • Privacy policy
  • Sitemap
  • Accessibility statement
Udemy
© 2022 Udemy, Inc.