申し込み 申し込み
データサイエンス基礎講座2020

ディープラーニング・自然言語処理編2

TransformersによるBERTモデルの利用方法
2020年7月17日（金）10:00～18:00
本セミナーは登録受付を終了しました。

授業の構成

【Transformers によるBERTモデルの利用方法】
  • テーマ：事前学習モデルとBERT系モデル
    事前学習モデルとはあらかじめ学習させた状態のモデルです。このモデルをタスクに応じて転移させることで、個々のタスクで必要となる訓練データを小さくすることができます。事前学習モデルとしては、ELMoやGPTが提案されましたが、BERTにより一区切り付いたと思います。BERT以後も様々な形でBERTが改良されています。それらのモデルを紹介します。
  • テーマ：BERT利用の演習
    当初BERTは実質TensorFlowを使って利用するしかありませんでしたが、Hugging Faceのtransformersのライブラリが用意されたおかげでPyTorchを使っても利用出来るようになりました。ここではそのtransformersを利用したBERTの利用を演習形式で学びます。
  • テーマ：DistilBERTの紹介と利用方法
    BERTは巨大なモデルあるために、学習や実行に多くの計算機資源が必要です。BERTのモデル圧縮版としてDistilBERTがあります。DistilBERTを利用すれば、自分のタスクの領域に応じたBERTのモデルを学習・実行することが小さな計算機資源からでも可能になります。ここではDistilBERTの学習や利用を演習形式で学びます。
  • ※通常の「データサイエンス基礎講座」とは異なり、各種スキル・経験を要する「中級編」として実施いたします。受講対象の要件を参照の上、受講を希望下さい。

タイムテーブル

7月17日（金）

10:00～13:00（180分）
  • 事前学習モデル
  • BERT系モデル（主流、派生）
  • Hugging Face のtransformersライブラリ
14:00～18:00（240分）
  • BERT利用の演習
  1. 入出力の確認
  2. Tokenizerの設定
  3. Feature-baseによる文書分類
  4. Fine-tuningによる文書分類
  5. Masked Language Modelによる単語推定
  6. BERTモデルのfine-tuning
  7. DistilBERTの利用
  • ※講義・演習指導の60分から120分前後で、随時の休息が入ります。
  • ※講師・講座内容は予告無く変更される場合があります。予めご了承ください。

開催概要

セミナー名 データサイエンス基礎講座2020＜ディープラーニング・自然言語処理編2＞
開催日時 2020年7月17日（金）10:00～18:00
会場 オンライン講座
主催 株式会社インプレス
協力 茨城大学
特別協力 フューチャーブリッジパートナーズ株式会社
参加対象
  • AIやディープラーニングのビジネス活用を検討している方
  • スタートアップ企業の経営者、生産技術系の技術者、事業責任者、新規事業担当者
  • ユーザ企業のシステム企画・開発部門、データ戦略部門、調査部門
  • サービスプロバイダー/ITベンダー等

受講に際しての留意事項

  • 大学初等レベルの微積分と線形代数を理解している、または事前に予習復習・学習していること
  • 統計/機械学習について勉強または経験した事がある
  • Python/Rの基本文法を理解している（またはオジュジェクト言語（Java等）の経験を有すること）
受講料 88,000円（税込）
お問い合わせ先 株式会社インプレス セミナー事務局（担当：石川義貴）
E-mail：jimukyoku@impress.co.jp
受付時間　10:00〜18:00（土・日・祝日を除く）
定員 30名（最少開講人数15名）
※応募者多数となりました場合には、受講いただけない場合がございます。予めご了承ください。
注意事項
  • 受講票は2020年6月29日（月）以降、順次電子メールにてご連絡させていただきます。
  • 都合により、講師・講座内容あるいはセミナー内容の一部が予告無く変更される場合があります。予めご了承ください。
  • 定員に達し次第、申込受付を締切らせていただきます。応募者多数となりました場合には、受講いただけない場合がございます。予めご了承ください。今回ご受講いただけないお客様には、次回の開講について、改めてご案内させていただきます。
  • ご本人が出席できない場合は、代理の方の参加が可能です。事前に事務局へお知らせください。
  • ご入金後のキャンセルはお受けいたしかねますのでご了承ください。
  • イベントという商品の特性上、7月4日（金）以降のキャンセルは、参加料未納の場合においても【キャンセルフィ100％】となり、お支払いただきます。
  • 参加者様のご都合によるキャンセルおよび欠席・遅刻によるご返金等は一切お受けしておりません。
  • 最少催行人数に満たない場合は、開催を中止することがありますので、ご了承願います。その際は、開催3日前までに、本ページおよびメールでご連絡いたします。
  • 自然災害、交通機関の事故、講師の発病等、不可抗力な事情により開催を中止することがあります。事前に中止が判明した場合は、本ページおよびメールにてお知らせいたしますので、各自でご確認ください。当日に中止が決まった場合は、本ページおよびメールと電話にてお知らせいたし、開催日の変更もしくは参加料の返金をいたします。 なお、旅費（航空券含む）や宿泊費とそれらのキャンセル諸費用については保障いたしません。
  • 製品購入を前提としたり、製品販売促進のためのセミナーではありません。

※講師の急病、天災その他の不可抗力、またはその他やむを得ない理由により、講座を中止する場合があります。この場合、未受講の講座の料金は返金いたします。
重要事項

今回のセミナーでは、WEBセミナシステム「Zoom」を利用します。
Zoomを利用できる環境を準備できる事が必須となります。
加えて、演習時には、操作しやすい環境（見やすいディスプレイサイズやサブディスプレイ等々）のご用意を推奨いたします。

※通信が安定しているネットワーク環境（Wi-Fi等）での接続をお勧めいたします。
また、受講可となった方にのみ、後日受講用URL、ID、パスワード等をメールでご連絡いたします。

＜注意及び禁止事項等＞

  1. 受講対象に記された条件を満たす方のみ、受講可能です。条件に満たない方の受講については厳禁といたします。
  2. 事前の連絡無しに、お申込みされたご本人以外の方が受講することはできません。
  3. 受講に際して、映像の録画・音声の録音・画面のキャプチャ、個人のブログやSNSなどへのアップ等、本講座に関する記録及び許諾を受けない利用については厳禁といたします。
  4. 講義・演習等の各種資料について、無断転載・引用は厳禁といたします。
  5. 上記に反した場合は、著作権法に抵触する恐れがあります。

※＜ディープラーニング・自然言語処理編2＞は演習形式ですので、使用するPCには以下の要件があります。

  • OSは、Windows 10あるいはLinux
  • 何らかのテキストエディタ（Emacs、秀丸、EmEditorなど）
  • Python 3.7のAnaconda (https://www.anaconda.com/distribution/)
  • PyTorch 1.4 (https://pytorch.org/get-started/locally/)
    CUDAはGUPがあってもcudaをインストールできていなければ、Noneを選択してインストールして下さい
  • Transformersのライブラリは以下のサイトを参照して、インストールしてください。
    https://github.com/huggingface/transformers
    通常は、単にpip install transformersでインストールできます
  • その他必要なファイルはダウンロードサイトを用意しておきますので、そこからダウンロードして下さい

インプレスセミナーについて

インプレスでは、「データサイエンス・機械学習」の、その有用性にいち早く着目。2013年秋からビッグデータ、AI研究の先端研究が進む東京工業大学大学院イノベーションマネジメント研究科/東京大学政策ビジョン研究センターに協力を仰ぎ、授業タイプのセミナーとして改めて企画し、2014年4月から「データサイエンス講座」として実施してまいりました。

現在では、「データサイエンス基礎講座シリーズ」、「ブロックチェーン基礎講座シリーズ」に加え、「クラウドネイティブコンピュータ/マイクロサービスアーキテクチャ基礎講座シリーズ」（Scrum基礎講座、AWS Lambda実践編、Kubernetes基礎実践編 等）など、最先端のテクノロジーにフォーカスした授業セミナーを連続して実施してきています。
データ分析担当者だけではなく、情報エンジニアリング部門、新規事業部門、品質管理部門の方々、先端外資系ITベンダー等、幅広い各層の方が参加し、延べ2,000名以上の方々に受講いただき、高い評価を受けています。

こちらもおすすめ​

基礎から実務レベルまで皆さまのビジネス課題の解決、 キャリアアップを支援する多様なプログラムをご用意！