ヘッドセットは完全に締められているが、フォークはまだグラグラしている

ぐらつきはフォークから来ている可能性があります。これは、ヘッドセットの2つの部分の間に指を挟むことで簡単に確認できます（ ここ 、0:35頃）。ブレーキをかけて動きを感じたら、ヘッドセットに問題があるのは間違いありません。そして、それらは良い状態になっていますか？これらの部品は、フレームとフォークチューブを非常にタイトにフィットさせなければならないため、低い公差を持っており、異なるメーカーはわずかに異なる寸法を持っています。

できれば、いつものお店に行って、別の1つのヘッドセットでテストするように依頼してください。そして、直るまでは、そのバイクには乗らないでくださいね。

上の Emyr の回答を参照してください。ネジのないヘッドセット（写真に写っているもの）では、ステムがフォークをヘッドチューブに圧縮して保持しています。そして、ステアチューブの上にあるキャップを締めます。ステアチューブの周りのリングにキャップが押し付けられていることを確認してください。

ステアチューブの周りのステムのボルトを締めてください。フォークがしっかり入っていれば、動きは感じません。

質問の中ではステムについては触れられていませんが、

ステムクランプを緩めずにトップキャップボルトを締めてしまうと、ヘッドセットにプリロードをかけることができず、代わりにステップとトップキャップの間のスペーサーを潰してしまいます。