AI tech studio

YANS 2019 参加報告② 〜デジタル広告における商品特徴を考慮した広告文の自動生成〜

By wakimoto

参加報告 機械学習 発表 自然言語処理

AI tech studio AIクリエイティブDivisionの脇本、AI Lab内定者バイトの川本です。
この度、8/26-28に札幌で開催されたNLP若手の会(YANS)第14回シンポジウム(2019)に、我々を含めAI tech studio所属の9人が参加・発表してきました。本記事ではその報告を簡単にさせていただきます。

YANSについて

YANSはNLP分野の若手研究者、技術者の成長や交流の促進を目的として、年に一度開催される研究シンポジウムです。今年は二泊三日の合宿形式で開催され、参加人数は昨年の150名を大きく上回る202名(過去最多)となりました。
今回弊社からはスポンサー発表、共同研究を含む4件の発表を行いました。

  • スポンサー・ポスター発表S03:サイバーエージェントにおける自然言語処理の取り組み
    • ○張培楠(株式会社サイバーエージェント)
  • [学生]ポスター発表 P63:修辞技法を考慮したキャッチコピー自動生成に向けた研究
    • ○丹羽彩奈, 岡崎直観(東工大), 西口佳佑, 亀山千尋, 毛利真崇(サイバーエージェント)
  • ポスター発表 P83:デジタル広告における商品特徴を考慮した広告文の自動生成
    • ○脇本宏平(サイバーエージェント), ○川本峻頌(明大), 張培楠(サイバーエージェント)
  • ポスター発表 P84:チャットボットの運用における自然言語処理の活用
    • ○戸田隆道, 杉山雅和, 友松祐太(サイバーエージェント)

本ブログでは我々コピー生成チームが発表した、P83「デジタル広告における商品特徴を考慮した広告文の自動生成」について報告します。 ブースターセッション, ポスター
P84「チャットボットの運用における自然言語処理の活用」の報告ブログはこちら

AIクリエイティブとAI Labの取り組みについて

AIクリエイティブはAI Labと連携し、広告クリエイティブの自動生成の研究、開発を行っています。コピー生成チームは、Twitterやニュースアプリなどでみられる広告クリエイティブのテキスト部分の生成について研究しています。このテキスト部分は、広告としてキャッチーな文である、文法的に正しく自然な文である、といったことに加えて、商品名や商品の特徴、セールスポイントを適切に反映していることが重要になります。

今回我々は、コスメ商品のカテゴリと説明文を入力として、広告文を生成する手法について、文生成タスクで一般的に用いられる4つのモデルで実験を行いました。

  • Bidirectional LSTM Encoder-Decoder1
  • Bidirectional LSTM Encoder-Decoder + Global Attention2
  • Pointer-Generator Networks3
  • Transformer4

それぞれのモデルが生成した広告文に対してRelative Ranking Aproach5 による評価を行い、その結果元にTrueSkill6という手法でスコアリングしました。スコアが高いモデルほど、その項目において優れているといえます。Pointer-Generatorは入力文の単語を生成に利用する機構により、説明文の内容を反映した文を生成しやすい一方で文法的に崩れやすい傾向がありました。Transformerは文法的に自然で、キャッチーな文を生成しましたが、説明文をあまり考慮しない傾向がありました。
実験により、説明文に基づく広告文生成におけるモデルごとの傾向を掴むことができました。今後はより広範囲のドメインで実験を行うとともに、より高性能な広告文生成を目指して異なるアプローチも試していきます。

参加報告まとめ

以上、コピー生成チームからの参加報告でした。NLP界隈の盛り上がりを感じた3日間でした。ポスターセッションでは、予想していた以上に多くの学生や研究者の方々に興味を持っていただき、我々としては非常に励みになりました。非常にためになるご意見やご指摘をたくさんいただいたので、それらを整理して、今後の研究・プロダクト開発に反映したいと思います。


  1. Ilya Sutskever, Oriol Vinyals and Quoc V. Le “Sequence to sequence learning with neural networks” Advances in neural information processing systems, 3104-3112, 2014. 
  2. Minh-Thang Luong, Hieu Pham and Christopher D. Manning “Effective approaches to attention-based neural machine translation” arXiv preprint arXiv:1508.04025, 2015. 
  3. Abigail See, Peter J. Liu and Christopher D. Manning “Get To The Point: Summarization with Pointer-Generator Networks” Proceedings of the 55th Annual Meeting of the Association for Computational Linguistics, Volume 1, 1073-1083, 2017. 
  4. Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser and Illia Polosukhin “Attention is all you need” Advances in neural information processing systems, 5998-6008, 2017. 
  5. Ondřej Bojar, Rajen Chatterjee, Christian Federmann, Yvette Graham, Barry Haddow, Matthias Huck, Antonio Jimeno Yepes, Philipp Koehn, Varvara Logacheva, Christof Monz, Matteo Negri, Aurélie Névéol, Mariana Neves, Martin Popel, Matt Post, Raphael Rubino, Carolina Scarton, Lucia Specia, Marco Turchi, Karin Verspoor and Marcos Zampieri “Findings of the 2016 conference on machine translation” Proceedings of the First Conference on Machine Translation, Volume 2, 131-198, 2016. 
  6. Ralf Herbrich, Minka Tom and Graepel Thore “TrueSkill™ : A Bayesian Skill Rating System” Advances in neural information processing systems, 569-576, 2007.