52b9d5a03741a4e16c4cc4080d2e84db08706202
[dcpomatic.git] / src / lib / dcp_video.cc
1 /*
2     Copyright (C) 2012-2021 Carl Hetherington <cth@carlh.net>
3
4     This file is part of DCP-o-matic.
5
6     DCP-o-matic is free software; you can redistribute it and/or modify
7     it under the terms of the GNU General Public License as published by
8     the Free Software Foundation; either version 2 of the License, or
9     (at your option) any later version.
10
11     DCP-o-matic is distributed in the hope that it will be useful,
12     but WITHOUT ANY WARRANTY; without even the implied warranty of
13     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14     GNU General Public License for more details.
15
16     You should have received a copy of the GNU General Public License
17     along with DCP-o-matic.  If not, see <http://www.gnu.org/licenses/>.
18
19 */
20
21
22 /** @file  src/dcp_video_frame.cc
23  *  @brief A single frame of video destined for a DCP.
24  *
25  *  Given an Image and some settings, this class knows how to encode
26  *  the image to J2K either on the local host or on a remote server.
27  *
28  *  Objects of this class are used for the queue that we keep
29  *  of images that require encoding.
30  */
31
32
33 #include "compose.hpp"
34 #include "config.h"
35 #include "cross.h"
36 #include "dcp_video.h"
37 #include "dcpomatic_log.h"
38 #include "dcpomatic_socket.h"
39 #include "encode_server_description.h"
40 #include "exceptions.h"
41 #include "image.h"
42 #include "log.h"
43 #include "player_video.h"
44 #include "rng.h"
45 #include <libcxml/cxml.h>
46 #include <dcp/raw_convert.h>
47 #include <dcp/openjpeg_image.h>
48 #include <dcp/rgb_xyz.h>
49 #include <dcp/j2k_transcode.h>
50 #include <dcp/warnings.h>
51 LIBDCP_DISABLE_WARNINGS
52 #include <libxml++/libxml++.h>
53 LIBDCP_ENABLE_WARNINGS
54 #include <boost/asio.hpp>
55 #include <boost/thread.hpp>
56 #include <stdint.h>
57 #include <iomanip>
58 #include <iostream>
59
60 #include "i18n.h"
61
62
63 using std::cout;
64 using std::make_shared;
65 using std::shared_ptr;
66 using std::string;
67 using dcp::ArrayData;
68 using dcp::raw_convert;
69 #if BOOST_VERSION >= 106100
70 using namespace boost::placeholders;
71 #endif
72
73
74 #define DCI_COEFFICENT (48.0 / 52.37)
75
76
77 /** Construct a DCP video frame.
78  *  @param frame Input frame.
79  *  @param index Index of the frame within the DCP.
80  *  @param bw J2K bandwidth to use (see Config::j2k_bandwidth ())
81  */
82 DCPVideo::DCPVideo (
83         shared_ptr<const PlayerVideo> frame, int index, int dcp_fps, int bw, Resolution r
84         )
85         : _frame (frame)
86         , _index (index)
87         , _frames_per_second (dcp_fps)
88         , _j2k_bandwidth (bw)
89         , _resolution (r)
90 {
91
92 }
93
94 DCPVideo::DCPVideo (shared_ptr<const PlayerVideo> frame, shared_ptr<const cxml::Node> node)
95         : _frame (frame)
96 {
97         _index = node->number_child<int> ("Index");
98         _frames_per_second = node->number_child<int> ("FramesPerSecond");
99         _j2k_bandwidth = node->number_child<int> ("J2KBandwidth");
100         _resolution = Resolution (node->optional_number_child<int>("Resolution").get_value_or(static_cast<int>(Resolution::TWO_K)));
101 }
102
103
104 /** J2K-encode this frame on the local host.
105  *  @return Encoded data.
106  */
107 ArrayData
108 DCPVideo::encode_locally () const
109 {
110         auto const comment = Config::instance()->dcp_j2k_comment();
111
112         ArrayData enc = {};
113         /* This was empirically derived by a user: see #1902 */
114         int const minimum_size = 16384;
115         LOG_DEBUG_ENCODE("Using minimum frame size %1", minimum_size);
116
117         auto frame_image = _frame->image(bind(&PlayerVideo::keep_xyz_or_rgb, _1), VideoRange::FULL, false);
118         auto xyz = _frame->convert_to_xyz(frame_image, boost::bind(&Log::dcp_log, dcpomatic_log.get(), _1, _2));
119         int noise_amount = 2;
120         int pixel_skip = 16;
121         while (true) {
122                 enc = dcp::compress_j2k (
123                         xyz,
124                         _j2k_bandwidth,
125                         _frames_per_second,
126                         _frame->eyes() == Eyes::LEFT || _frame->eyes() == Eyes::RIGHT,
127                         _resolution == Resolution::FOUR_K,
128                         comment.empty() ? "libdcp" : comment
129                 );
130
131                 if (enc.size() >= minimum_size) {
132                         LOG_DEBUG_ENCODE(N_("Frame %1 encoded size was OK (%2)"), _index, enc.size());
133                         break;
134                 }
135
136                 LOG_GENERAL (N_("Frame %1 encoded size was small (%2); adding noise at level %3 with pixel skip %4"), _index, enc.size(), noise_amount, pixel_skip);
137
138                 /* The JPEG2000 is too low-bitrate for some decoders <cough>DSS200</cough> so add some noise
139                  * and try again.  This is slow but hopefully won't happen too often.  We have to do
140                  * convert_to_xyz() again because compress_j2k() corrupts its xyz parameter.
141                  */
142
143                 xyz = _frame->convert_to_xyz(frame_image, boost::bind(&Log::dcp_log, dcpomatic_log.get(), _1, _2));
144                 auto size = xyz->size ();
145                 auto pixels = size.width * size.height;
146                 dcpomatic::RNG rng(42);
147                 for (auto c = 0; c < 3; ++c) {
148                         auto p = xyz->data(c);
149                         auto e = xyz->data(c) + pixels;
150                         while (p < e) {
151                                 *p = std::min(4095, std::max(0, *p + (rng.get() % noise_amount)));
152                                 p += pixel_skip;
153                         }
154                 }
155
156                 if (pixel_skip > 1) {
157                         --pixel_skip;
158                 } else {
159                         ++noise_amount;
160                 }
161                 /* Something's gone badly wrong if this much noise doesn't help */
162                 DCPOMATIC_ASSERT (noise_amount < 16);
163         }
164
165         switch (_frame->eyes()) {
166         case Eyes::BOTH:
167                 LOG_DEBUG_ENCODE (N_("Finished locally-encoded frame %1 for mono"), _index);
168                 break;
169         case Eyes::LEFT:
170                 LOG_DEBUG_ENCODE (N_("Finished locally-encoded frame %1 for L"), _index);
171                 break;
172         case Eyes::RIGHT:
173                 LOG_DEBUG_ENCODE (N_("Finished locally-encoded frame %1 for R"), _index);
174                 break;
175         default:
176                 break;
177         }
178
179         return enc;
180 }
181
182 /** Send this frame to a remote server for J2K encoding, then read the result.
183  *  @param serv Server to send to.
184  *  @param timeout timeout in seconds.
185  *  @return Encoded data.
186  */
187 ArrayData
188 DCPVideo::encode_remotely (EncodeServerDescription serv, int timeout) const
189 {
190         boost::asio::io_service io_service;
191         boost::asio::ip::tcp::resolver resolver (io_service);
192         boost::asio::ip::tcp::resolver::query query (serv.host_name(), raw_convert<string> (ENCODE_FRAME_PORT));
193         boost::asio::ip::tcp::resolver::iterator endpoint_iterator = resolver.resolve (query);
194
195         auto socket = make_shared<Socket>(timeout);
196
197         socket->connect (*endpoint_iterator);
198
199         /* Collect all XML metadata */
200         xmlpp::Document doc;
201         auto root = doc.create_root_node ("EncodingRequest");
202         root->add_child("Version")->add_child_text (raw_convert<string> (SERVER_LINK_VERSION));
203         add_metadata (root);
204
205         LOG_DEBUG_ENCODE (N_("Sending frame %1 to remote"), _index);
206
207         {
208                 Socket::WriteDigestScope ds (socket);
209
210                 /* Send XML metadata */
211                 auto xml = doc.write_to_string ("UTF-8");
212                 socket->write (xml.length() + 1);
213                 socket->write ((uint8_t *) xml.c_str(), xml.bytes() + 1);
214
215                 /* Send binary data */
216                 LOG_TIMING("start-remote-send thread=%1", thread_id ());
217                 _frame->write_to_socket (socket);
218         }
219
220         /* Read the response (JPEG2000-encoded data); this blocks until the data
221            is ready and sent back.
222         */
223         Socket::ReadDigestScope ds (socket);
224         LOG_TIMING("start-remote-encode thread=%1", thread_id ());
225         ArrayData e (socket->read_uint32 ());
226         LOG_TIMING("start-remote-receive thread=%1", thread_id ());
227         socket->read (e.data(), e.size());
228         LOG_TIMING("finish-remote-receive thread=%1", thread_id ());
229         if (!ds.check()) {
230                 throw NetworkError ("Checksums do not match");
231         }
232
233         LOG_DEBUG_ENCODE (N_("Finished remotely-encoded frame %1"), _index);
234
235         return e;
236 }
237
238 void
239 DCPVideo::add_metadata (xmlpp::Element* el) const
240 {
241         el->add_child("Index")->add_child_text (raw_convert<string> (_index));
242         el->add_child("FramesPerSecond")->add_child_text (raw_convert<string> (_frames_per_second));
243         el->add_child("J2KBandwidth")->add_child_text (raw_convert<string> (_j2k_bandwidth));
244         el->add_child("Resolution")->add_child_text (raw_convert<string> (int (_resolution)));
245         _frame->add_metadata (el);
246 }
247
248 Eyes
249 DCPVideo::eyes () const
250 {
251         return _frame->eyes ();
252 }
253
254 /** @return true if this DCPVideo is definitely the same as another;
255  *  (apart from the frame index), false if it is probably not.
256  */
257 bool
258 DCPVideo::same (shared_ptr<const DCPVideo> other) const
259 {
260         if (_frames_per_second != other->_frames_per_second ||
261             _j2k_bandwidth != other->_j2k_bandwidth ||
262             _resolution != other->_resolution) {
263                 return false;
264         }
265
266         return _frame->same (other->_frame);
267 }