cgit.sxemacs.org Git - harmattan/cameraplus/blob - lib/qtcamviewfinderrenderermeego.cpp

   1 /*!
   2  * This file is part of CameraPlus.
   3  *
   4  * Copyright (C) 2012 Mohammed Sameer <msameer@foolab.org>
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with this library; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02110-1301  USA
  19  */
  20
  21 #include "qtcamviewfinderrenderermeego.h"
  22 #include <QDebug>
  23 #include <gst/video/video.h>
  24 #include <QPainter>
  25 #include "qtcamconfig.h"
  26 #include <QX11Info>
  27 #include <QGLContext>
  28 #include <EGL/egl.h>
  29 #include <QGLShaderProgram>
  30 #include <gst/interfaces/meegovideotexture.h>
  31
  32 QT_CAM_VIEWFINDER_RENDERER(RENDERER_TYPE_MEEGO, QtCamViewfinderRendererMeeGo);
  33
  34 #define GL_TEXTURE_EXTERNAL_OES                  0x8060
  35
  36 static const QString FRAGMENT_SHADER = ""
  37     "#extension GL_OES_EGL_image_external: enable\n"
  38     "uniform samplerExternalOES texture0;"
  39     "varying lowp vec2 fragTexCoord;"
  40     "void main() {"
  41     "  gl_FragColor = texture2D(texture0, fragTexCoord);"
  42     "}"
  43   "";
  44
  45 static const QString VERTEX_SHADER = ""
  46     "attribute highp vec4 inputVertex;"
  47     "attribute lowp vec2 textureCoord;"
  48     "uniform highp mat4 matrix;"
  49     "uniform highp mat4 matrixWorld;"
  50     "varying lowp vec2 fragTexCoord;"
  51     ""
  52     "void main() {"
  53     "  gl_Position = matrix * matrixWorld * inputVertex;"
  54     "  fragTexCoord = textureCoord;"
  55     "}"
  56   "";
  57
  58 QtCamViewfinderRendererMeeGo::QtCamViewfinderRendererMeeGo(QtCamConfig *config,
  59                                                                QObject *parent) :
  60   QtCamViewfinderRenderer(config, parent),
  61   m_conf(config),
  62   m_sink(0),
  63   m_frame(-1),
  64   m_id(0),
  65   m_notify(0),
  66   m_needsInit(true),
  67   m_program(0) {
  68
  69   // Texture coordinates:
  70   // Reversed because of Qt reversed coordinate system
  71   m_texCoords[0] = 0;       m_texCoords[1] = 1;
  72   m_texCoords[2] = 1;       m_texCoords[3] = 1;
  73   m_texCoords[4] = 1;       m_texCoords[5] = 0;
  74   m_texCoords[6] = 0;       m_texCoords[7] = 0;
  75
  76   bzero(&m_vertexCoords, 8);
  77 }
  78
  79 QtCamViewfinderRendererMeeGo::~QtCamViewfinderRendererMeeGo() {
  80   if (m_sink) {
  81     g_signal_handler_disconnect(m_sink, m_id);
  82     g_signal_handler_disconnect(m_sink, m_notify);
  83     g_object_remove_toggle_ref(G_OBJECT(m_sink), (GToggleNotify)sink_notify, this);
  84     m_sink = 0;
  85   }
  86 }
  87
  88 void QtCamViewfinderRendererMeeGo::paint(QPainter *painter) {
  89   QMutexLocker locker(&m_frameMutex);
  90   if (m_frame == -1) {
  91     return;
  92   }
  93
  94   painter->beginNativePainting();
  95
  96   if (m_needsInit) {
  97     calculateProjectionMatrix(painter->viewport());
  98     m_needsInit = false;
  99   }
 100
 101   if (!m_program) {
 102     // Program will be created if needed and will never be deleted even
 103     // if attaching the shaders fail.
 104     createProgram();
 105   }
 106
 107   paintFrame(painter, m_frame);
 108
 109   painter->endNativePainting();
 110 }
 111
 112 void QtCamViewfinderRendererMeeGo::resize(const QSizeF& size) {
 113   if (size == m_size) {
 114     return;
 115   }
 116
 117   m_size = size;
 118
 119   m_renderArea = QRectF();
 120
 121   calculateCoords();
 122
 123   // TODO: this will destroy everything
 124   // but we need a way to reset the viewport and the transformation matrix only.
 125   m_needsInit = true;
 126 }
 127
 128 void QtCamViewfinderRendererMeeGo::reset() {
 129   QMutexLocker locker(&m_frameMutex);
 130   m_frame = -1;
 131 }
 132
 133 GstElement *QtCamViewfinderRendererMeeGo::sinkElement() {
 134   if (!QGLContext::currentContext()) {
 135     qCritical() << "Cannot create the GStreamer element without an OpenGL context.";
 136     return 0;
 137   }
 138
 139   if (!m_sink) {
 140     m_sink = gst_element_factory_make(m_conf->viewfinderSink().toAscii().data(),
 141                                       "QtCamViewfinderRendererMeeGoSink");
 142     if (!m_sink) {
 143       qCritical() << "Failed to create" << m_conf->viewfinderSink();
 144       return 0;
 145     }
 146
 147     g_object_add_toggle_ref(G_OBJECT(m_sink), (GToggleNotify)sink_notify, this);
 148   }
 149
 150   // Displa can be replaced with a null pointer.
 151   // We all know that the sink used for Harmattan ignores the x-display property ;-)
 152
 153   Display *d = QX11Info::display();
 154   g_object_set(G_OBJECT(m_sink), "x-display", d, "use-framebuffer-memory", TRUE, NULL);
 155
 156   EGLDisplay dpy = eglGetDisplay((EGLNativeDisplayType)d);
 157   EGLContext context = eglGetCurrentContext();
 158
 159   g_object_set(G_OBJECT(m_sink), "egl-display", dpy, "egl-context", context, NULL);
 160
 161   m_id = g_signal_connect(G_OBJECT(m_sink), "frame-ready", G_CALLBACK(frame_ready), this);
 162
 163   GstPad *pad = gst_element_get_static_pad(m_sink, "sink");
 164   m_notify = g_signal_connect(G_OBJECT(pad), "notify::caps",
 165                               G_CALLBACK(sink_caps_changed), this);
 166   gst_object_unref(pad);
 167
 168   return m_sink;
 169 }
 170
 171 void QtCamViewfinderRendererMeeGo::frame_ready(GstElement *sink, int frame,
 172                                                QtCamViewfinderRendererMeeGo *r) {
 173   Q_UNUSED(sink);
 174   Q_UNUSED(frame);
 175
 176   r->m_frameMutex.lock();
 177   r->m_frame = frame;
 178   r->m_frameMutex.unlock();
 179
 180   QMetaObject::invokeMethod(r, "updateRequested", Qt::QueuedConnection);
 181 }
 182
 183 void QtCamViewfinderRendererMeeGo::sink_notify(QtCamViewfinderRendererMeeGo *q,
 184                                                GObject *object, gboolean is_last_ref) {
 185
 186   if (is_last_ref) {
 187     g_signal_handler_disconnect(q->m_sink, q->m_id);
 188     g_object_remove_toggle_ref(G_OBJECT(q->m_sink), (GToggleNotify)sink_notify, q);
 189     q->m_sink = 0;
 190   }
 191 }
 192
 193 void QtCamViewfinderRendererMeeGo::sink_caps_changed(GObject *obj, GParamSpec *pspec,
 194                                                      QtCamViewfinderRendererMeeGo *q) {
 195   Q_UNUSED(obj);
 196   Q_UNUSED(pspec);
 197
 198   int width, height;
 199   if (obj && gst_video_get_size  (GST_PAD(obj), &width, &height)) {
 200     QMetaObject::invokeMethod(q, "setVideoSize", Qt::QueuedConnection,
 201                               Q_ARG(QSizeF, QSizeF(width, height)));
 202   }
 203 }
 204
 205 void QtCamViewfinderRendererMeeGo::calculateProjectionMatrix(const QRectF& rect) {
 206   m_projectionMatrix = QMatrix4x4();
 207   m_projectionMatrix.ortho(rect);
 208 }
 209
 210 void QtCamViewfinderRendererMeeGo::createProgram() {
 211   if (m_program) {
 212     delete m_program;
 213   }
 214
 215   m_program = new QGLShaderProgram(this);
 216
 217   if (!m_program->addShaderFromSourceCode(QGLShader::Vertex, VERTEX_SHADER)) {
 218     qCritical() << "Failed to add vertex shader";
 219     return;
 220   }
 221
 222   if (!m_program->addShaderFromSourceCode(QGLShader::Fragment, FRAGMENT_SHADER)) {
 223     qCritical() << "Failed to add fragment shader";
 224     return;
 225   }
 226
 227   m_program->bindAttributeLocation("inputVertex", 0);
 228   m_program->bindAttributeLocation("textureCoord", 1);
 229
 230   if (!m_program->link()) {
 231     qCritical() << "Failed to link program!";
 232     return;
 233   }
 234
 235   if (!m_program->bind()) {
 236     qCritical() << "Failed to bind program";
 237     return;
 238   }
 239
 240   m_program->setUniformValue("texture0", 0); // texture UNIT 0
 241   m_program->release();
 242 }
 243
 244 void QtCamViewfinderRendererMeeGo::paintFrame(QPainter *painter, int frame) {
 245   if (frame == -1) {
 246     return;
 247   }
 248
 249   // TODO: sometimes there is an assertion.
 250
 251   MeegoGstVideoTexture *sink = MEEGO_GST_VIDEO_TEXTURE(m_sink);
 252   if (!meego_gst_video_texture_acquire_frame(sink, frame)) {
 253     qDebug() << "Failed to acquire frame";
 254     return;
 255   }
 256
 257   m_program->bind();
 258
 259   m_program->setUniformValue("matrix", m_projectionMatrix);
 260   m_program->setUniformValue("matrixWorld", QMatrix4x4(painter->combinedTransform()));
 261
 262   if (!meego_gst_video_texture_bind_frame(sink, GL_TEXTURE_EXTERNAL_OES, frame)) {
 263     qDebug() << "Failed to bind frame";
 264     m_program->release();
 265     return;
 266   }
 267
 268   glEnableVertexAttribArray(0);
 269   glEnableVertexAttribArray(1);
 270
 271   glVertexAttribPointer(0, 2, GL_FLOAT, GL_FALSE, 0, &m_vertexCoords);
 272   glVertexAttribPointer(1, 2, GL_FLOAT, GL_FALSE, 0, &m_texCoords);
 273
 274   glDrawArrays(GL_TRIANGLE_FAN, 0, 4);
 275
 276   if (!meego_gst_video_texture_bind_frame(sink, GL_TEXTURE_EXTERNAL_OES, -1)) {
 277     qDebug() << "Failed to unbind frame";
 278   }
 279
 280   glDisableVertexAttribArray(1);
 281   glDisableVertexAttribArray(0);
 282
 283   m_program->release();
 284
 285   // We are not using fences.
 286   // TODO: make it configurable.
 287   meego_gst_video_texture_release_frame(sink, frame, 0);
 288 }
 289
 290 void QtCamViewfinderRendererMeeGo::calculateCoords() {
 291   if (!m_size.isValid() || !m_videoSize.isValid()) {
 292     return;
 293   }
 294
 295   QRectF area = renderArea();
 296
 297   qreal leftMargin = area.x();
 298   qreal topMargin = area.y();
 299   QSizeF renderSize = area.size();
 300
 301   m_vertexCoords[0] = leftMargin;
 302   m_vertexCoords[1] = topMargin + renderSize.height();
 303
 304   m_vertexCoords[2] = renderSize.width() + leftMargin;
 305   m_vertexCoords[3] = topMargin + renderSize.height();
 306
 307   m_vertexCoords[4] = renderSize.width() + leftMargin;
 308   m_vertexCoords[5] = topMargin;
 309
 310   m_vertexCoords[6] = leftMargin;
 311   m_vertexCoords[7] = topMargin;
 312 }
 313
 314 QRectF QtCamViewfinderRendererMeeGo::renderArea() {
 315   if (!m_renderArea.isNull()) {
 316     return m_renderArea;
 317   }
 318
 319   QSizeF renderSize = m_videoSize;
 320   renderSize.scale(m_size, Qt::KeepAspectRatio);
 321
 322   qreal leftMargin = (m_size.width() - renderSize.width())/2.0;
 323   qreal topMargin = (m_size.height() - renderSize.height())/2.0;
 324
 325   m_renderArea = QRectF(QPointF(leftMargin, topMargin), renderSize);
 326
 327   return m_renderArea;
 328 }
 329
 330 void QtCamViewfinderRendererMeeGo::setVideoSize(const QSizeF& size) {
 331   if (size == m_videoSize) {
 332     return;
 333   }
 334
 335   m_videoSize = size;
 336
 337   m_renderArea = QRectF();
 338
 339   calculateCoords();
 340
 341   m_needsInit = true;
 342 }