Super源さんの雑学事典

ブラックボックスというのは、飛行機に搭載されているフライトレコーダーのことですが、本当の色は、黒ではなく、実はオレンジ色をしています。
ブラックボックスの語源を遡っていくと、第二次世界大戦中にイギリス空軍で作られた、レーダー爆撃照準器に辿りつきます。そして、この初期ユニットが黒い箱に入っていたために、このように呼ばれるようになりました。
現在では、このブラックボックスという言葉は、フライトレコーダーのみならず、「機能は分かっているが、構造の分からない装置」という意味で広く使われています。

参考にしたサイト
So Why Are They Called "Black Boxes?"−FAA employee site
Black box is a generic term for a piece of electronic equipment on an aircraft. The term originated in the RAF during World War II. The first black boxes were radar bomb "sights." Later, the term expanded to include various electronic navigational devices. When the flight recorders started being installed on civilian aircraft in 1958, the name was applied to these devices. The original WWII black boxes were literally black boxes, and many pieces of avionics equipment still come in black housings, but the term is applied to all of them regardless of color.
※ RAF＝Royal Air Force（英国空軍）, sight = 照準器