Sentence-Transformersを使ってみた！YouTube動画のセリフを手軽にセマンティック検索

皆さん、こんにちは。
フューチャーのWebセミナーにアクセスいただき、ありがとうございます。
この動画ではフューチャーの会社概要とビジネスについてご紹介します。
早速、会社概要からご紹介します。
フューチャーは1989年にエンジニアが立ち上げたITコンサルティング企業です。
創業時から、ITでビジネスを牽引することをコンセプトに掲げ、いわゆるDXにあたることを推進してきました。
また、店頭公開時には日本で初めてITコンサルティング業として事業登録をされたのもフューチャーです。
日本初のITコンサルティング企業であり、DXを30年以上推進してきた会社と覚えていただければと思います。
業績も昨年は過去最高を更新するなど非常に順調です。
次に、私たちが大切にしている考え方、Our Philosophyをご紹介します。
「本質を見極める」、「大義を問う」、「初めてに挑戦する」、「難題を楽しむ」、「ないものはつくる」。
例えば、創業当社から他の会社がなかなか手がけないような案件であったり、難しい案件に積極的にチャレンジしてきましたので、初めてに挑戦する難題を楽しむであったり、エンジニアニメが作り上げた会社というところもあり、ないものは何でも自分たちで作ってしまおう、そういったカルチャーも深く浸透しています。
続いて、フューチャーのミッションを紹介します。
お客様の未来活用を最大化し、自らも新たな価値を創造する。
フューチャーグループには大きく2つの事業体があります。
1つは、ITコンサルティング&サービス事業です。
こちらはお客様向けの課題解決をしていく事業群で、フューチャーアーキテクトがコアカンパニーとして、ITコンサルティングを牽引しています。
もう一つはビジネスイノベーション事業です。
こちらはこれまでのノウハウを生かして、自社でサービスを立ち上げようというもので、まさにお客様の未来活用を最大化するITコンサルティングと、自分たちでも新たな価値を創造していく両軸で事業を展開しています。
ここからはフューチャーのビジネスについてご紹介します。
フューチャーのお客様は、様々な業界そしてそれぞれの業界を代表するような企業様です。
私たちは、私たちの強みであるITを用いて、それぞれのお客様の経営課題を解決したり、あるいはお客様と一緒に業界改革をIP戦略パートナーとしてになっています。
私たちのビジネスの特徴をご紹介します。
創業当初から、お客様の経営戦略、それを達成するための業務改革、そしてそれを支えているシステム改革。
これらを三位一体で捉えてプロジェクトを推進してきました。
昨今、DXと盛んに叫ばれるようになりましたが、私たちフューチャーは経営と業務、そしてその裏にあるシステムは切っても切り離せないものだと創業当初から考えて、それらを三位一体で捉えて推進するということを30年以上続けてきました。
さらに詳細にビジネスの流れや他社との違いについてご紹介します。
プロジェクトはどんな未来を描くのか、戦略を立て、計画に落として、その計画に則ってシステム的に具現化し、出来上がったシステムが価値を創造するという流れが一般的です。
プロジェクトの推進体制で見てみると、一般的には得意な領域ごとに会社が複数社にまたがって行っているケースが多いです。
例えば、未来を描くところはコンサル系の企業様が行って、具現化していくところはSIer系の企業様が行ってといった形です。
あるいは、一つの会社であるけれど、コンサルタントとエンジニアのように職種が分かれているケースも多いかなと思います。
では、フューチャーはどうかと言いますと、フィーチャーは図の通り、戦略からシステム構築運用まで一気通貫でになっています。
また、職種もITコンサルタント職一触者です。
戦略を立てるコンサルタントとしての部分と、システムを構築していくエンジニアとしての部分、どちらも一人一人のITコンサルタントが担っています。
ソースコードレベルで相手を理解しているITコンサルタントが担うからこそ、絵に描いた餅で終わるというのではなくて、しっかりと価値を想像するところまで伴走できる。
そしてそれを30年以上続けてきたというのはなかなか他の会社には簡単に真似できないフューチャーならではの強みになっています。
また、皆さんのキャリアというのを考えてみていただいても、コンサルタントとエンジニア、どちらも一つの会社で経験できるというのはキャリアの幅が広がり、市場価値の高い人材に成長できると思っていただけると思います。
最後に、フューチャーのことをもっと知りたい方に各種メディアをご紹介します。
フューチャーのオウンドメディア未来報では、フューチャーの人に焦点を当ててキャリアやカルチャーをご紹介しています。
フューチャーが大切にしている技術についてもっと深く知りたい方は、テックブログやテックキャストがおすすめです。
最後までご覧いただき、ありがとうございます。
皆さんと選考でお会いできることを楽しみにしております。

('フューチャーは1989年にエンジニアが立ち上げたITコンサルティング企業です。', 0.2547425627708435)
('では、フューチャーはどうかと言いますと、フィーチャーは図の通り、戦略からシステム構築運用まで一気通貫でになっています。', 0.19687587022781372)
('創業時から、ITでビジネスを牽引することをコンセプトに掲げ、いわゆるDXにあたることを推進してきました。', 0.1668681502342224)
('フューチャーグループには大きく2つの事業体があります。', 0.164341002702713)
('昨今、DXと盛んに叫ばれるようになりましたが、私たちフューチャーは経営と業務、そしてその裏にあるシステムは切っても切り離せないものだと創業当初から考えて、それらを三位一体で捉えて推進するということを30年以上続けてきました。', 0.16331210732460022)

('昨今、DXと盛んに叫ばれるようになりましたが、私たちフューチャーは経営と業務、そしてその裏にあるシステムは切っても切り離せないものだと創業当初から考えて、それらを三位一体で捉えて推進するということを30年以上続けてきました。', 0.45087340474128723)
('日本初のITコンサルティング企業であり、DXを30年以上推進してきた会社と覚えていただければと思います。', 0.3921096622943878)
('フューチャーは1989年にエンジニアが立ち上げたITコンサルティング企業です。', 0.36329418420791626)
('創業当初から、お客様の経営戦略、それを達成するための業務改革、そしてそれを支えているシステム改革。', 0.3592120409011841)
('創業時から、ITでビジネスを牽引することをコンセプトに掲げ、いわゆるDXにあたることを推進してきました。', 0.35177189111709595)

('フューチャーのオウンドメディア未来報では、フューチャーの人に焦点を当ててキャリアやカルチャーをご紹介しています。', 0.5177506804466248)
('最後に、フューチャーのことをもっと知りたい方に各種メディアをご紹介します。', 0.44624844193458557)
('プロジェクトはどんな未来を描くのか、戦略を立て、計画に落として、その計画に則ってシステム的に具現化し、出来上がったシステムが価値を創造するという流れが一般的です。', 0.4249690771102905)
('例えば、未来を描くところはコンサル系の企業様が行って、具現化していくところはSIer系の企業様が行ってといった形です。', 0.40904152393341064)
('次に、私たちが大切にしている考え方、Our', 0.40697067975997925)

('そしてそれを30年以上続けてきたというのはなかなか他の会社には簡単に真似できないフューチャーならではの強みになっています。', 18.705921173095703)
('さらに詳細にビジネスの流れや他社との違いについてご紹介します。', 18.43102264404297)
('皆さん、こんにちは。', 16.867801666259766)
('業績も昨年は過去最高を更新するなど非常に順調です。', 16.38519287109375)
('お客様の未来活用を最大化し、自らも新たな価値を創造する。', 15.685336112976074)

Text embeddings and semantic search.
In this video we’ll explore how Transformer models represent text as embedding vectors and how these vectors can be used to find similar documents in a corpus.
Text embeddings are just a fancy way of saying that we can represent text as an array of numbers called a vector.
To create these embeddings we usually use an encoder-based model like BERT.
In this example, you can see how we feed three sentences to the encoder and get three vectors as the output.
Reading the text, we can see that walking the dog seems to be most similar to walking the cat, but let's see if we can quantify this.
The trick to do the comparison is to compute a similarity metric between each pair of embedding vectors.
These vectors usually live in a high-dimensional space, so a similarity metric can be anything that measures some sort of distance between vectors.
One popular metric is cosine similarity, which uses the angle between two vectors to measure how close they are.
In this example, our embedding vectors live in 3D and we can see that the orange and grey vectors are close to each other and have a smaller angle.
Now one problem we have to deal with is that Transformer models like BERT will actually return one embedding vector per token.
For example in the sentence "I took my dog for a walk", we can expect several embedding vectors, one for each word.
For example, here we can see the output of our model has produced 9 embedding vectors per sentence, and each vector has 384 dimensions.
But what we really want is a single embedding vector for the whole sentence.
To deal with this, we can use a technique called pooling.
The simplest pooling method is to just take the token embedding of the CLS token.
Alternatively, we can average the token embeddings which is called mean pooling.
With mean pooling only thing we need to make sure is that we don't include the padding tokens in the average, which is why you can see the attention mask being used here.
This now gives us one 384 dimensional vector per sentence which is exactly what we want.
And once we have our sentence embeddings, we can compute the cosine similarity for each pair of vectors.
In this example we use the function from scikit-learn and you can see that the sentence "I took my dog for a walk" has an overlap of 0.83 with "I took my cat for a walk". Hooray.
We can take this idea one step further by comparing the similarity between a question and a corpus of documents.
For example, suppose we embed every post in the Hugging Face forums.
We can then ask a question, embed it, and check which forum posts are most similar.
This process is often called semantic search, because it allows us to compare queries with context.
To create a semantic search engine is quite simple in Datasets.
First we need to embed all the documents.
In this example, we take a small sample from the SQUAD dataset and apply the same embedding logic as before.
This gives us a new column called "embeddings" that stores the embedding of every passage.
Once we have our embeddings, we need a way to find nearest neighbours to a query.
Datasets provides a special object called a FAISS index that allows you to quickly compare embedding vectors.
So we add the FAISS index, embed a question and voila. we've now found the 3 most similar articles which might store the answer.

('To create these embeddings we usually use an encoder-based model like BERT.', 0.6005619764328003)
('In this video we’ll explore how Transformer models represent text as embedding vectors and how these vectors can be used to find similar documents in a corpus.', 0.5864262580871582)
('For example, here we can see the output of our model has produced 9 embedding vectors per sentence, and each vector has 384 dimensions.', 0.5198760032653809)
('In this example, we take a small sample from the SQUAD dataset and apply the same embedding logic as before.', 0.4749892055988312)
('In this example, our embedding vectors live in 3D and we can see that the orange and grey vectors are close to each other and have a smaller angle.', 0.46906405687332153)

('Text embeddings and semantic search.', 0.3169878125190735)
('To create a semantic search engine is quite simple in Datasets.', 0.22516131401062012)
('To deal with this, we can use a technique called pooling.', 0.19742435216903687)
('This process is often called semantic search, because it allows us to compare queries with context.', 0.1717163324356079)
('Once we have our embeddings, we need a way to find nearest neighbours to a query.', 0.1544724851846695)