ALT + F4
ができないことでした。

SurfaceのTouch Coverキーボードには、ノートPCにあるような、F1〜F12までのキーがない。で、他のMVPの方から、Fnキーを押しながら上記の画像でいうと、赤く枠で囲った該当の部分を押してやるんだよ?と教えていただいた後、まもなく、TwitterでもSufaceの公式アカウントの方からも、さらに、Fn + Caps による、ファンクションキーロックの機能は現在日本語キーボードにおいては調整中ですよ というメッセージをいただきました。
本来なら、英語キーボードなどでは、Fn + Caps で、ファンクションキーロックが使えるようなのですが、日本語キーボードではまだみたいなんですね。
とりあえず近いうちには使えるようになるんでしょうけど、Twitterのつまらないつぶやきもしっかりチェックしてくれてサポートしていただけるなんて、便利な時代になったもんですよね。
<参照>
・タッチ カバーによる入力